Transcripción automática, sin corregir a mano. Puede tener errores.

00:00 [Música] Bueno pues si a usted le interesa la ciencia y sobre todo la ciencia de datos que está revolucionando al mundo digital ese mundo donde hoy pasamos buena parte de nuestra vida cotidiana estoy con de las mujeres más reconocidas en el mundo justamente para entender ese esa ciudad digital Le agradezco muchísimo a Paola Villarreal que nos acompañe Muchas gracias Ricardo cómo te presento programador especialista en datos esa es una gran pregunta yo cre inteligencia eh Me quedo con científica de datos y programadora autodidacta empezaste bien chiquita 12 años 12 años sí Cómo ocurre que alguien a los 12 años se pone a programar como autodidacta pues se me hizo algo muy lógico desde el principio que conectabas un cable con un color y después Este una cosa llegó a la otra me conecté a internet Justo a los 13 años aos y empezé a platicar con

01:01 gente eh Y pues resultó que ellos hacían eh los programas con los que platicábamos y me fueron enseñando entonces eh Fue como un Hobby que se hizo te contrataron super chiquita para lanzar empresas te fuiste a Harvard sea hací un recorrido bastante importante ahora estás en California así es cómo cómo esa chiquita que se puso a programar acabó haciendo lo que está haciendo ahora pues un cable llevó otro cable Curiosidad no O sea yo creo que sí tiene mucho mucho que ver que siempre me he estado preguntando Cómo funcionan las cosas eh y no solamente el funcionamiento de las cosas sino cómo nos afectan no entonces creo que eso es lo que ha sido la guía de de mi carrera acabas de publicar este texto Inteligencia artificial el nuevo cerebro electrónico que pues nos ayuda mucho a quienes nos interesa el tema Pero sabemos bien poco del tema y luego estamos muy incluidos por muchos prejuicios a

02:01 entender la Inteligencia artificial y déja comenzar con una pregunta super básica hay alguna inteligencia que no sea artificial O sea hay una inteligencia natural muy filosófica tu pregunta no O sea creo que la respuesta creo que es Sí o sea el los seres vivos tenemos tipos de inteligencia Y de forma natural se ha ido adaptando a nuestro entorno no O sea no no hablo solamente de los humanos sino de muchas especies que demuestran tipos de inteligencia y tipos de adaptación no O sea entonces yo creo que si hay inteligencia natural ahora nuestra inteligencia la humana se ha ido haciendo de herramientas No desde el fuego el mazo no el asadón hasta la computadora en realidad lo que observamos a nuestro alrededor es una extensión de nuestra inteligencia esa proviene de inteligencia natural Dónde está la

03:01 frontera dónde acaba nuestra inteligencia la humana y comienza la inteligencia del asadón o de la computadora o de las herramientas yo creo que ahí ya es lo que llamamos cultura no O sea eh Por ejemplo los animales no tienen o que yo sepa no tienen culturas muy avanzadas no sino más bien somos los los humanos las sociedades los que a través del tiempo vamos transmitiéndonos eh conocimientos y saberes no Y eso creo que eh también nos va moviendo nos va forzando a que que pues pensemos de nuevas formas lo que lo que estamos necesitando o lo que estamos viviendo la Inteligencia artificial hoy es una herramienta se nos ha vuelto principal está en todo está alrededor en mi computadora en el teléfono en fin en los lugares donde compro asuntos personales mis gustos teatrales está en todos lados o sea de

04:01 pronto me abrazó y mi cuenta me di y no sé muy bien Qué es eh Ni a qué punto domina mi vida Pero lo que más me asusta es cuánto la va a dominar en el futuro Pues fíjate que justo de eso trata el libro no O sea e para que el público en general se dé cuenta de qué tan permeado está con la Inteligencia artificial no O sea intelcia artif oficial justo ya hoy está tomando millones y millones de decisiones que afectan a millones y millones de personas no en diversos ámbitos desde la salud desde el empleo desde la justicia No desde el medio ambiente entonces no es que no es cuándo va a llegar la Inteligencia artificial y los modelos y los algoritmos sino más bien cómo nos está Eh impactando ya hoy no de darle mordidas Como algunos de los eh digamos Campos donde influye los

05:02 buscadores no prácticamente hacemos 20 30 50 búsquedas al día o mucho más dependiendo cómo ande el ánimo y la adrenalina eh Y asumimos que pues el saber humano está ahí pero está mediado por la Inteligencia artificial está mediado por los algoritmos está mediado por quien programó ese ese robot totalmente y y no me relaciono con ese instrumento asumiéndolo HM te refieres a al algoritmo yo no sé que digamos cuando estoy haciendo búsquedas no no no estoy asumiendo que lo que está ahí en realidad Está programado por alguien diseñado por alguien Sí o sea lo sientes como una experiencia natural no propia no quiero ir al al hotel o quiero rentar un coche y asumo que es mi decisión que en realidad alguien ya la tomó y en ese sentido regreso a tu libro cómo cómo aliar con la conciencia de lo que está implicando esto pues eh justo creo que

06:05 hace mucha falta que las personas tomen conciencia de eh cómo nos está afectando la Inteligencia artificial no solamente para que lo aprovechen no porque obviamente Abre oportunidades no eh para gente creativa para eh médicos no O sea para muchas muchas profesiones pero también eh Tiene sus riesgos no O sea y creo que es muy importante que como sociedad tengamos conciencia de estos riesgos sobre todo por ejemplo cuando están tomando decisiones eh Para cosas críticas como la libertad de las personas no entonces hay eh justo algo Hay una parte del libro en la que trato casos en los que algoritmos toman decisiones sustituyendo a jueces no entonces eh lo que está sucediendo es que el la rendición de cuentas Ya no está ya no

07:06 recae en una persona sino recae en un un algoritmo que No necesariamente sabemos cómo funciona pero ese algoritmo que decide A qué juez va a dar tal expediente o no decide e por ejemplo hay algoritmos que miden qué tan riesgoso eres de que vuelvas a cometer un delito o sea el el el profiling famoso ha hace mi perfil criminal hace un perfilamiento y decide con base en tu perfil de riesgo si te dan libertad condicional o no no entonces y es una máquina qui está deciendo eso máquina Entonces los jueces dicen yo No necesariamente decidí sino más bien el algoritmo eh mendico tú te metiste con un tema que me parece fascinante y es cómo pues hay Data que se utiliza para determinar Cuál es una zona riesgosa y cuál no en dónde tiene que actuar la policía y dónde no luego esa Data está sesgada por criterios discriminatorios a ver cuéntame ese eso que hiciste justamente sobre la la

08:06 política policial y los barrios en las poblaciones más desposeídas claro pues el proyecto se llama DEA for Justice y la premisa es que eh digamos que en el sistema de justicia criminal en Estados Unidos eh Cuando un policía te arresta eh No necesariamente tiene la capacidad de acusarte por ejemplo de posesión de alguna droga no sino más bien eh si te encuentran un polvo blanco eh Lo que pasa es que un laboratorio del estado eh hace las pruebas y lo que hemos visto es que Eh pues ahí hay existen tanto colusión como sesgos raciales en los que Pues digamos que a través de evidencia falsa se han obtenido miles y miles y miles de sentencias eh condenatorias e que han afectado desproporcionalmente a latinos y negros en Estados Unidos

09:07 estamos con Paola Villarreal autora de Inteligencia artificial el nuevo cerebro electrónico vamos a corte bu regresamos un momento más para seguir hablando Pues de la ética y la la Inteligencia artificial si el resto de nuestro comportamiento debe ser ético Por qué no aplicar la ética a esta herramienta que como bien dice eso y ocupa buena parte de nuestra vida volvos un momento esto callose bueno está con nosotros con nosotros Me da mucho gusto Paula Villarreal hablando de Inteligencia artificial y nos contabas digamos esta parte negativa no de la Inteligencia artificial sino de cómo se utiliza para perfilar gente y considerarla Criminal Pues a partir de sesgos discriminatorios ahora del otro lado está el tema de la salud que me parece muy importante calcular si yo tengo riesgo de un infarto a partir de mi genética a partir de mi consumo alimenticio Y a partir de eso subirme bajarme la póliza de salud o de plano no

10:10 atenderme es una buena cosa Inteligencia artificial Pero puede ser ocupada en este sector de la salud de manera muy ingrata Exacto Sí o sea creo que es un arma de doble filo no por un lado tenemos eh algoritmos de diagnóstico que definitivamente van a revolucionar el servicio médico no eh También tenemos eh modelos que están eh reinventando eh sustancias químicas que pueden servir para la lucha en contra de enfermedades no que nos afectan eh Y que van avanzando A pasos agigantados no entonces muy pronto vamos a ver eh este tipo de de resultados en los que enfermedades como el bh el cáncer van a a tener pasar a la historia Esperemos no y va a ser a través de eh de la aplicación de modelos de Inteligencia artificial pero como bien mencionas no también está el caso de utilizar los datos demográficos de una persona para decidir si están e si son sujetos a la cobertura de en

11:15 temas de salud No eso no solamente O decidir A dónde manda ciertos medicamentos a quién le prohíbe ciertos medicamentos fin decisiones que pueden acabar siendo no éticas así es Y creo que tocas el tema fundamental de la Inteligencia artificial que es la implementación ética no de estas soluciones creo que tiene que siempre tener una perspectiva ética no per Pa tú tienes un código ético la empresa donde trabajas tiene un código ético Cómo haces para que la Inteligencia artificial sea ética Eh bueno la Inteligencia artificial es el reflejo de lo que somos no eh Me parece que podemos al momento por ejemplo de entrenar un modelo de Inteligencia artificial eh asegurarnos de que la representatividad de las distintas comunidades o de los distintos tipos de personas en los que vamos a aplicar Este modelo sea suficiente no O sea ahorita

12:15 estamos viendo casos en los que mod poner estándares éticos en las decisiones así es y y representatividad O sea no solamente y con ello me refiero a que por ejemplo vemos modelos que están hechos en la India para poblaciones de la India que que empresas quieren implementarlos directamente en otros países sin tomar en cuenta la diversidad que existe en ellos o la falta de diversidad que existe en ellos no entonces A eso me refiero no que sí tenemos que tener o que los modelos tienen que reflejar la población en la que se van a aplicar per Déjame poner una palabra clave ahí discriminación en efecto si yo ahorita me meto casi cualquier buscador eh Y pregunto mujer inteligente me va a salir un estereotipo una mujer con lentes con cierto color de piel de pelo etcétera hombre inteligente lo mismo es decir no van a decir que eso lo hizo el algoritmo solo alguien alimentó con ese sesgo es a

13:18 esa máquina es Sí sí sí o sea es definitivamente los algoritmos eh sobre todo por ejemplo de los chatbots no e ya ha sucedido que eh por ejemplo Microsoft lanzó hace TR o cu años una primera instancia de de chatbot muy similar a lo quep en la que en menos de 3 horas ya se había vuelto Pues un algoritmo racista no O sea se había entrenado con las respuestas de las propias personas y reflejó de sobremanera no lo que el no déjame ahora moverme a al medio donde yo me encuentro que es el de la comunicación y bueno Claro que está la televisión está la tele la radio digo pero hoy buena parte del flujo comunicativo ocurre en las redes sociales y pues todos los días me estoy topando con robots no y no sé si es un robot o no pero a veces dicen cosas horribles otas veces desvían la

14:19 conversación Pues a intereses o comerciales o políticos Cómo le hago para relacionarme con esos robots que son insoportables y que dañan mucho flujo comunicativo no lo polarizan lo descompon lo echan a perder definitivamente o sea creo que eh el tema de la desinformación está siendo exacerbado por la Inteligencia artificial no y lo vemos en las redes sociales sobre todo cuando eh gente periodistas están siendo atacados constantemente no a través de de de robots no porque ya es muy barato No o sea bueno relativamente barato es muy barato decir a ver esta lanza esta campaña prec esta persona así es no eh pero no son perfectos no O sea eh Por ejemplo las plataformas tienen acceso a a la detección de estas eh de estos robots no una cosa los dueños de las plataformas podrían ponerle un alto definitivamente no pero desafortunadamente es que si saco los

15:20 Bots de esas plataformas las vaciamos de clientes exacto no o sea las plataformas tienen métricas que tienen que cumplir o sea cuántos eh no sé tweets al día o mensajes al día se se envían no o cuántos usuarios nuevos ingresan a la plataforma o cuántos usuarios en general ingresan a la plataforma al mes no entonces e los robots cuentan como usuario en para muchas plataformas y obviamente si aunque se llamen Arturito 52 31 37 exacto no O sea eso ya es eso no le importa la plataforma Entonces el no está en que la plataforma esté libre de desinformación sino está en que más usuarios y más mensajes envían la pregunta pues en fin yo sé que es una de las más complicadas y hay muchas posturas alrededor pero cuando salió la televisión en fin Incluso el cine la radio pues inmediatamente la

16:21 sociedad del estado se puso a regularlo asumiendo el impacto que tenía hay quien dice De ninguna manera qui ir a la autorregulación pero pues a veces los códigos de ética se crean en eso en buenas intenciones dónde te paras tú en esta discusión que sobre todo en Estados Unidos es donde se fijó el parámetro de no hay regulación Exacto yo estoy a favor de La regulación o sea creo que en Europa los usuarios tienen más derechos los usuarios de internet tienen más derechos que en Estados Unidos eh México tiene una regulación eh favorable a los usuarios de cierta forma O al menos comparada con Estados Unidos e en la que se se obliga a las plataformas a cumplir ciertas eh ciertos parámetros no pero Definitivamente creo que eh Por ejemplo hay un debate muy interesante entre eh si plataformas como x o Twitter o Facebook cumplen una función pública no

17:21 que es que se han convertido básicamente en la en la arena pública eh que tanto le conviene a la sociedad que empresas con estos incentivos de los que ya platicamos eh sean dueñas de lo público no entonces eh ese debate no está resuelto para nada eh han habido pues instancias no en las que tanto políticos como gobiernos dicen Pues vamos a crear una plataforma que sea pública realmente no pero faltan usuarios falta eh masa crítica en fin es un tema muy muy muy complejo cerrar con un último subtema en esta en esta lógica Mis datos Porque Bueno me estoy peleando con los Bots pero pues la Inteligencia artificial se nutre de datos como bien sabes de Data y pues algunos de esos datos son míos no tienen por qué tenerlos alguien más y es muy evidente que los tiene alguien más totalmente Sí y justo parte de la ética cuando

18:21 hablamos de ética la Inteligencia artificial tiene mucho que ver con la privacidad No que los datos que realmente son eh privados se mantengan privados y no se utilicen para entrenar modelos no entonces eh eso es digamos que de las premisas básicas no eh Porque como bien dices o sea Es evidente que o las plataformas eh leen los mensajes privados o eh o realmente no son tan privados los p que solamente te puedes explicar por el espíritu santo o por alguna mal uso en mi teléfono que estoy hablando de un tema y me aparece anuncio del tema del que estaba yo hablando Así es o se hacen conexiones No o sea por ejemplo eh si tú estás con un amigo y ese amigo que ya me ha pasado a mí eh es tiene no sé eh alguna enfermedad no que está consumiendo eh Algún medicamento medic eh a los 5 minutos me llegan a mí mensajes eh anuncios de la medicina que él está tomando no entonces eh esas conexiones

19:23 eh que se están haciendo No No necesariamente a través del espionaje tal cual sino es una forma más sutil eh de clasificarnos no utilizando digamos que e la propia red social análoga no O sea nuestra nuestr nuestro círculo inmediato E eso creo que es también parte de lo que se tiene que tomar en cuenta y estamos en el día uno de una era muy larga y muy compleja Así es Sí además de leer tu libro qué otra recomendación me darías puent esta era eh creo que hay que hay que tener un ojo crítico no pero no desde el pesimismo No desde el miedo no sino también eh la Inteligencia artificial y la tecnología en general eh plantean eh oportunidades no para muchísima gente O sea e no solamente eh Hay cosas negativas sino de verdad Creo que estamos ante Eh

20:25 pues una nueva era de como humanidad no entonces entonces creo que es un un momento muy interesante para estar vivos paa Muchísimas gracias Paola Villarreal Ariel Inteligencia artificial el nuevo cerebro electrónico la que el índice en sí mismo la verdad invita a leerlo y desde Lu después de escucharte mucho más se lo recomiendo enormemente muchísimas gracias y que tengas una gran promoción de este texto much gracias