Transcripción automática, sin corregir a mano. Puede tener errores.

00:03 [Música] bienvenidas Bienvenidos a esta edición de nuestra serie la justicia que viene los retos de la Inteligencia artificial aquí en justicia TV el día de hoy vamos a tener una conversación con Paola Villarreal una conversación a propósito de un libro suyo precisamente sobre el tema Inteligencia artificial con unos énfasis importantes en cuestiones que tienen que ver con conceptos muy relevantes muy complejos en sí mismos y que tienen además una interacción particularmente difícil con el tema de la Inteligencia artificial seguridad nacional soberanía cuestiones que tienen que ver con los estados con el estado mexic Paola un gusto enorme tenerte acá con nosotros en justicia TV Muchas gracias

01:04 por la invitación Pedro Qué gusto estar aquí un gustazo un gustazo mencionaba tu libro Paola un libro que yo conozco lo sabes porque Además nos hiciste favor de presentarlo en el instituto de investigaciones jurídicas de la UNAM en el marco de la agenda de nuestra línea de investigación sobre derecho e Inteligencia artificial eh Y es un libro muy interesante porque es un libro que de alguna manera da cuenta del Estado del arte y que tiene además una vocación muy didáctica que no dice Qué es la Inteligencia artificial y si quieres empecemos por ahí Platícame un poco por qué decides escribir el libro cómo le entras a libro y bueno y cuáles son digamos las principales aportaciones de tu trabajo claro pues eh A mí lo que quise resolver eh con el libro es precisamente las preguntas que mucha gente esta planteando en torno a la Inteligencia artificial o sea yo veo eh desde mi trabajo que hay mucha por un lado mucho optimismo por otro lado negativismo este y hay un impulso muy muy grande y muy fuerte en torno a la aplicación eh

02:06 desmedida de de tecnología con o tecnologías inteligentes no eh Y también veía mucha confusión en el público no y mucho inclusive miedo eh de pues cuestiones más por ejemplo de sus derechos laborales de la privacidad de seguridad este y lo que quise hacer con el libro es explicar por un lado de dónde viene la artificial que eso Es bien interesante porque cuentas la historia en sentido muy amplio no historia Sí y la intención de eso es darle al al al lector eh la noción de que la Inteligencia artificial no es una tecnología emergente no O sea lo que vemos ahorita en estos últimos 2 años pues quizás hay un impulso o una aceleración fuerte pero podemos Trazar el la ruta o la historia de estas tecnologías desde las guerra fría la Segunda Guerra Mundial Y si nos vamos mucho más atrás Pues a todas las eh las primeras matemáticas no Y podemos trazarlo inclusive a 40,000 años atrás

03:08 no Entonces estamos hablando de una de la Inteligencia artificial es la expresión humana humanista Pues que que que forma parte de nuestra historia no Aunque hoy lo vemos como algo totalmente novedoso pero realmente es algo que nos ha venido acompañando y tú dirías que en los últimos estos dos años que mencionas que todos decimos desde el surgimientos ya siempre se menciona el ChatGPT y todo el tema de la Inteligencia artificial generativa tú dirías que hay un salto ahí de carácter digamos cualitativo o en realidad Tú lo verías como un continuum de digamos mecanismos cada vez más complejos para agregar cada vez mayor cantidad de datos pero nada particularmente innovador dirías O sea si si hay Innovación en términos por ejemplo de las redes neuronales que están detrás de todos estos modelos ativos No eso sí e por ejemplo la noción de la atención y los contextos y todo o sea que son desarrollos tecnológicos más o menos novedosos pero cuando digo más o

04:10 menos novedosos es digamos 12 de 15 años atrás no eh que empiezan a ver estas los primeros papers no de de estos nuevos descubrimientos de de Inteligencia artificial pero en Sí están basadas en las redes neuronales que están planteadas bueno que que acaban de ganar el el Nobel de es impresionante este año en 2024 los principales Nobel Déjame lo digo así para no agrar en datos se van a cuestiones que tienen que ver con Inteligencia artificial y tecnología as y en particular con las redes neuronales no que son conceptos que ya tienen 20 25 años no Entonces no es algo eh o sea digamos que se van sumando cosas y en algunos casos son como pasos eh exponenciales No pero no es Sí pero no es nada que surgió de la Nada eso es algo que está ahí Y tú mencionas dos betas aquí en tu intervención anterior que también está en tu libro que es hay quien Mira esto con mucho optimismo con optimismo incluso con emoción incluso

05:13 digamos está vislumbrando que por ahí viene una transformación en sentido positivo para la humanidad y para la experiencia de la vida humana y por el otro lado hay quienes miran esto con eh mucho temor con mucho escepticismo con mucha reserva y y y digamos y lo configuran tú lo decías en términos de amenaza Dónde se ubica Paola Villarreal en estos dos extremos que es bueno justo el libro en sí digamos que lo que yo quise hacer yo en general soy un poco menos optimista no O sea yo sí he vivido en mi experiencia profesional eh he estudiado casos no los que los algoritmos terminan siendo eh o Tenían un impacto negativo en la sociedad no eh Por ejemplo a la hora de de determinar el el riesgo de una persona que está encarcelada no eh que son temas ya muy delicados de de Derechos Humanos no y de acceso a Sí sí pero los prejuicios los sesgos pueden ser profundamente discriminatorios y pueden terminar estigmatizando una persona sin que sea

06:16 responsable o sin que sea potencial responsable de la comisión de un acto delictivo en este caso así así es y más y también por ejemplo le quita responsabilidad a los juzgadores le quita eh transparencia a los procesos judiciales etcétera no tienen un pueden llegar a tener impactos muy muy negativos no y eh Son la consecuencia de este optimismo o Tecno optimismo no en el que alguien hace 15 años dijo vamos a tener este algoritmo que nos puede ayudar a optimizar este proceso de Justicia eh penal eh sin darse cuenta que lo que estaba haciendo era replicar los ciclos de automatizar los ciclos de opresión no y los sesgos raciales los riesgos de clase etcétera no entonces el algoritmo En estos casos Pues sí se dio eh sirvió para agilizar la discriminación no Entonces yo vengo de ahí tú vienes de ahí para mí en muchos casos la Inteligencia artificial los algoritmos Eh pues veo el posible efecto

07:19 negativo No pero lo que yo transmito en el libro no es tanto esa negatividad sino más bien es yo hice un un ejercicio propio no de qué Sí está bien que no está bien no Y esa era la la premisa del libro también no O sea qué es porque sé que o sea Reconozco que la Inteligencia artificial llegó para quedarse ese es un hecho y en cada en cada proceso social va a haber espacio para incorporar la Inteligencia artificial entonces qu qué debemos hacer y tener en cuenta para que no tengan estos impactos negativos y y maximizar los impactos positivos no y identifico áreas por ejemplo en la salud No que creo que el área de la telemedicina el acceso a la salud puede ser puede beneficiarse con la Inteligencia artificial mientras mientras que tengamos en cuenta por ejemplo las

08:19 posibles invasiones de la privacidad o el uso de los algoritmos para decidir si alguien tiene acceso a la salud o no etcétera no Entonces siempre es una moneda de dos caras no en la que pues queremos que la cara positiva eh brille más no que la cara negativa pero pues hay que tener en cuenta que que tiene las dos que tiene las dos es decir que si hay un potencial de daño y al mismo tiempo digamos un potencial benéfico en distintas áreas como esta que yo creo que el tema de la salud es un buen ejemplo de de un colateral positivo muy prometedor hay una dimensión aquí eh que que creo que es muy importante y que nos va además acercando a los temas de fondo de nuest nuestra reflexión del día de hoy eh las desigualdades las brechas de desigualdad que pueden venir acompañadas sobre todo por el acceso y el uso y la capacidad de acceso y de uso de estas herramientas eh para las distintas personas dependiendo de su formación de su educación de su conectividad del

09:21 acceso a los aparatos qué qué decir de eso es decir qué qué qué mirar en esta en esta dimensión igualdad desigualdades es una cuón muy interesante y el ejemplo que a mí me gusta dar es el del voto electrónico a no las elecciones que tenemos actualmente al menos en México que son en papel aj cualquier persona en teoría las podría auditar no O sea no necesitas ser matemático no necesitas tener una formación técnica avanzada para decir este este voto es para este partido este candidato y este voto es para no O sea la gente los funcionarios de casilla pueden auditar la la la elección cuando pasamos al voto electrónico que para allá vamos lo que está sucediendo es que solamente los que somos licenciados o ingenieros en informática este que tenemos formación de ciencia de datos etcétera somos los que realmente podemos auditar a una elección electrónica no Además de que

10:22 pues somos los que desarrollamos los sistemas de Voto electrónico y que los implementamos en Hardware específico etcétera no O sea para mí eso significa una transferencia de poder de lo digamos del democrático a algo mucho más mucho más técnico y mucho y a muchas menos personas no Si antes la capacidad de con el voto en papel pues tenemos no sé 120 millones de de posibles auditores o quizás menos no como 80 millones deantes posibles que e incluso de observadores extranjeros decir cualquier persona puede acceder a esa información y como dices tú auditar verificar sus resultados así así es Y o sea si somos muy optimistas Yo creo que el 1% de la población tiene conocimientos de programación o de bases de datos no Entonces pasamos de la población adulta no a una población minúscula que tiene el poder de

11:22 determinar si si si una elección es válida o no no Entonces eso para mí crea pues desigualdad eh crea unas élites también no en el sentido de que pues solo somos e solo quien tiene estos conocimientos puede eh implementar estas tecnologías no y en muchos casos no tenemos eh Como un juramento hipocrático no que yo creo que debería de tener el el la ingeniería de software eh para tratar de siempre eliminar en medida del lo posible el posible daño eh en la sociedad no y eh creo que digamos e no solamente es en el voto electrónico es una es un ejemplo no e ahora quien tiene el monopolio en el desarrollo de estas tecnologías que afectan la vida de millones de personas son empresas privadas es un dato que tenemos que hablar ahora claro no e que normalmente son multinacionales

12:24 pero están eh o sea sus sus headquarters están en eh en Estados Unidos no o en el norte global son países eh de primer mundo que ven a los países como México en vías de desarrollo como solamente clientes no O sea y consumidores Entonces no toman en cuenta necesariamente eh las necesidades específicas de las poblaciones de México de países de latinoamérica o de África o del sureste asiático para el desarrollo de sus eh de sus modelos de sus algoritmos sino más bien lo Pues los ven solamente como consumidores sin agencia no Entonces eso le quita a a estas poblaciones estos países pues una parte fundamental de del Pues de su vida digital no el que consumen lo que lo que se les da sin tener como derecho a retroalimentar este

13:26 en fin no much nos vas llevando por el camino que tenemos que ir que es precisamente el de la relación entre estas tecnologías y conceptos muy importantes en este caso como el de la igualdad la desigualdad y y las brechas que se van generando desigualdades Pero hay un dato en esto que comentas que creo que no es menor que es eh las eh naciones que desarrollan estas tecnologías son pocas son pocas y y y nosotros no nos encontramos dentro de ellas por qué Paula bueno es una pregunta muy eh interesante pues viene de El o sea una cuestión histórica no O sea al final de cuentas las ingenierías eh más avanzadas pues han sucedido en Europa en Estados Unidos quizás en Rusia ahora en China no en la India no que estos últimos dos casos la China y la India pues son políticas de estado muy muy fuertes que plantearon hace 30 40 años eh el

14:29 desarrollo de de las tecnologías de la información no entonces Eh Esto digamos que el por qué estamos viendo lo que estamos viendo es consecuencia de algo que sucedió en los 70s no eh en muchos casos impulsado inclusive por eh esfuerzos armamentistas no O sea Estados Unidos Reino Unido Rusia tenían necesidades eh de desarrollo de supercómputo de de algoritmos para descifrar eh comunicaciones encriptadas etcétera que eso fue Eh muchas veces el el origen el impulsor principal de de las tecnologías de la información no o sea las primeras computadoras eh tenían Eh pues misiones bélicas no el internet también era tiene su origen también en el mundo militar totalmente no Y ese es el origen digamos de esta de este desarrollo tecnológico es es ese es un

15:30 dato que es importante advertirlo porque hoy los usos son múltiples en muchas facetas en muchos ámbitos de nuestra vida pero el origen dices era precisamente estratégico de seguridad Exacto Sí o sea tiene una cuestión totalmente ligada al militarismo y a la seguridad en tiempos de guerra y ahí hay un punto importante porque esto que nos comentas nos hace pensar en los Estados los estados entiéndase los gobiernos que no son tecnológicos primero con una agenda belicista Pero en qué momento el desarrollo empieza a trasladarse a esas grandes empresas privadas de las que hablabas Hace algunos minutos Es decir porque si no me equivoco en Casos por ejemplo como en los Estados Unidos es mucho más potente el desarrollo tecnológico privado que el que realiza el estado en el caso mencionas tú de China es distinto porque el estado en real engloba y absorbe toda la

16:30 estrategia de desarrollo tecnológico pero esa decisión en el caso digamos pensando sobre todo nuestro vecino del Norte en qué momento se da Porque además es de no solo de ahí pero es de donde más consumimos nosotros tecnología no totalmente pues todas estas grandes empresas tienen contratos con el ejército norteamericano no y no hay para mí no hay una un momento específico en el que empieza esto sino más bien siempre ha habido como un interc cambio sobre todo de investigadores no que empiezan quizás en el ejército o en un contrato de Top Secret no de de desarrollo de alguna tecnología para el ejército Sí para el ámbito militar estado digamos y continúan su carrera en las empresas grandes no O sea eso se ve muy claro por ejemplo dig Más allá del cómputo por ejemplo en Boeing no que tienen ingenieros aeronáuticos que están eh ligados A lo militar no y hacen

17:33 desarrollos de motores este con para jets militares y de ahí se trasladan al sector privado hay una imbricación una vinculación estrecha entre todas estas tareas de nuevo de seguridad y los desarrollos de la de la industria tecnológica estadounidense así y lo mismo pasa con las tecnologías de la información lo mismo está pasando con la Inteligencia artificial no en el que hay eh modelos de Inteligencia artificial que son eh lo están utilizando ejércitos el día de hoy no para muchas cuestiones tácticas no de por ejemplo el ejército israelí tiene eh Pues un gran sistema eh inteligente eh En el que pues elige eh objetivos militares no Entonces ese sistema se puede eh aplicar a otros ámbitos también no y el conocimiento eh digamos guardado por los propios

18:35 ingenieros que además está publicado en en revistas científicas y tecnológicas Pues digamos impulsa también el el desarrollo de de la de la Inteligencia artificial y ahí hay un punto que me parece muy importante porque tú dijiste hace algunos minutos esto llegó para quedarse no y creo que pues sobre eso tenemos que tener un consenso y llegó para quedarse y además ha tenido si bien una historia como tú dices digamos remota en el tiempo pero desarrollos a una velocidad muy impresionante en los últimos años con un potencialidad yo diría totalmente insospechado de A dónde vamos porque pues nadie nos puede decir a ciencia cierta y en esa lógica de un fenómeno que existe que llegó para quedarse que tiene su origen en áreas estratégicas de seguridad de algunos estados eh y que en otros estados como Estados Unidos se ha ido trasladando el sector privado bueno Qué posibilidades tienen los gobiernos

19:36 de contener lidiar orientar regular Este fenómeno que vuelvo a decirlo Ahí está y se está desarrollando esa es una gran gran pregunta yo creo que es una cuestión Pues de seguridad nacional y de Eh Pues sí que estos los gobiernos consumidores tienen que eh negociar a muy alto nivel por ejemplo el entrenamiento de modelos no O sea y es una cuestión no solamente de seguridad nacional sino de soberanía y por ejemplo Cuando digo soberanía a lo que me refiero es que si un modelo toca una población esa población tiene que estar involucrada en el proceso de entrenamiento del modelo no O sea tus datos me vas a tener que explicar a mí el público Qué es el entrenamiento de un modelo Bueno un modelo de Inteligencia artificial por ejemplo una red neuronal tiene eh toma una gran base de datos Y hace un modelo eh A través de la del cual Se entrena no y en ese entrenamiento lo que

20:38 ves es qué tan preciso es si hay pérdida de información pérdida de fidelidad etcétera no pero no lo no lo haces con toda la base de datos sino con una muestra representativa esto es porque en muchos casos son grandes bases de datos que es muy poco práctico entrenar un modelo utilizar el modelo con toda la base de datos sino más bien Quieres una muestra representativa no que el modelo digamos abstraida eh sus características principales las Aprenda y después pueda eh Como interpolar a la población en general a toda la base de datos en su conjunto no y a nuevas observaciones Entonces ya no tienes que eh o sea lo entrenas una vez y si llega información nueva la pasas por el modelo y el modelo puede hacer categorizaciones predicciones clasificaciones y tú dices que en ese entrenamiento quienes van a ser destinatarios o usuarios de ese modelo deberían de poder participar deberían de poder opinar exo Sí o sea

21:41 por ejemplo se ven casos en los que el los modelos que están desarrollados y entrenados en la India o en China son aplicados sin ningún tipo de restricción en países fuera de ese contexto no entonces toman decisiones con base en la población China o India o inclusive de Estados Unidos eh que no representa lo que están viviendo Por ejemplo en México no o sea son poblaciones totalmente distintas eh con demografía totalmente distinta no Y entonces que alguien implemente un modelo que esté entrenado con otra otra población pues puede llegar a generar sesgos y más desigualdad no el problema también es que hay poca transparencia y poca rendición de cuentas no o sea los modelos de redes neuronales No necesariamente tienen explicaba O sea no es es una palabra que he aprendido mucho No es fácil explicar có funciona Exacto O sea sí hay formas muy técnicas de saber si

22:42 un modelo es preciso o no No de qué tan qué tan fiel es su representatividad al de entrenamiento a la población en general pero en s Cómo funcionan y las decisiones que toma No necesariamente son las más fáciles de pero luego nos estás llevando de nuevo por el mismo terreno en el cual solo aquellas personas conocedoras iniciadas y formadas en la materia van a poder dar cuenta de qué es lo que está sucediendo y me parece que ese dato es importantísimo porque me parece que es un dato que tiene que ver con esos dos conceptos de los que hablabas hablamos y que de alguna manera nos convocan a esta edición de nuestro programa el día de hoy que es esta lógica de la soberanía y esta lógica de la seguridad nacional vislumbrada desde la perspectiva de las personas y de sus derechos que creo que es donde hay que colocar el foco y te propongo que lo hagamos pensando en México después de un corte vamos a un corte y ya regresamos acá a justicia TV

23:42 a su serie a la serie los retos de la Inteligencia artificial la justicia que viene nos vemos acá en unos minutos después del corte regresamos Ya estamos aquí de vuelta en justicia TV hablando de los retos de la Inteligencia artificial de la justicia que viene en esta conversación con Paola Villarreal en la que nos ha ayudado a entender las dificultades y las complejidades que supone para la enorme mayoría de las personas que no son azadas en temas tecnológicos entender y sobre todo poder explicar cómo funcionan los desarrollos tecnológicos y en particular el que nos

24:43 ocupa que es el tema de Inteligencia artificial y acá Paula en el cierre del bloque anterior íbamos como ya apuntando una reflexión hacia lo que pueden hacer los países y en este caso el nuestro Para aprovechar estas tecnologías que sin duda en el ante positivo y prometedor que también identificaba el bloque anterior hay que aprovecharlas pero por el otro lado también lidiar con ellas lidiar con tecnologías que en su mayoría provienen de desarrollos de otros países en muchos casos de Industria privada ni siquiera de gobiernos y de Estados y nos decías y que por lo mismo Es salamente probable que no estén entrenados los modelos pensando en poblaciones como la nuestra sino respondiendo a realidades que no son ajenas Bueno qué puede hacer un gobierno Qué puede hacer un estado como el mexicano en esa coyuntura Para aprovechar pero al mismo tiempo para encauzar la utilización de la tecnología claro Yo pienso que la clave está en La

25:45 regulación del entrenamiento los modelos no O sea si una empresa o un Gobierno ya sea municipal Estatal o el federal va a implementar un modelo de Inteligencia artificial que tome decisiones que afectan la vida de las personas y de las comunidades pues tiene que asegurarse que el que el modelo refleje fielmente a esas poblaciones esas comunidades no Por qué Porque eso les da eh agencia a las a los individuos a las comunidades a los municipios y a las poblaciones en general a muchos niveles No desde el individuo hasta el la gran población del país No eso es una cuestión de agencia y pero también pues es una cuestión de de de seguridad no O sea sí eh si no sucede esto estamos siendo muy vulnerables eh A lo que las empresas de otros países los gobiernos de otros países eh decidan sobre nosotros no Entonces esto puede gener generar definitivamente problemas de subrepresentación de sesgos de

26:48 desigualdad en general no Y esto obviamente es algo que no deseamos pero la clave para mí está en en el entrenamiento de los modelos no y en la implement obviamente no sea ya que estás teniendo eh o estás implementando un sistema que por ejemplo de eso que a pedir así como ejemplos concretos en qué estarías pensando e por ejemplo sistemas de acceso a el financiamiento no de acceso a los seguros a la salud No e en fin hay varios ejemplos en los que a la jus por ejemplo la justicia que es justo el tema de este programa y que hemos discutido hemos platicado también con otras personas sobre el potencial positivo y al mismo tiempo los riesgos que tiene el diseñar e implementar modelos de Inteligencia artificial en la gestión en sentido amplio de la justicia o sea los todos los modelos de Inteligencia artificial principalmente se enfocan en clasificar información no Y esta información pueden ser personas no Entonces si un modelo de Inteligencia

27:49 artificial está clasificando a una persona que está Privada de su libertad no como un de riesgo alto de riesgo bajo etcétera pues tenemos que tener mecanismos que garanticen la Pues confiabilidad confiabilidad de los modelos y adecuado a la realidad y al contexto en el que se Está realizando esa predicción digamos Exacto esa clasificación no es como es persona a tiene un alto riesgo porque tiene o vive en este código postal pues es algo que al final de cuentas criminaliza por ejemplo la pobreza no Entonces tenemos que evitar eso eh cómo se evita teniendo en cuenta estos sesgos quitando información que puede llegar a ser discriminatoria del entrenamiento de los modelos no para que el modelo no tome en cuenta el código postal en el que nació la persona sino tenga más bien en cuenta los hechos concretos de los que se le acusan No porque si no repito estaríamos

28:49 criminalizando pues cuestiones sociales no Entonces eso me parece muy muy importante que los La regulación en el entrenamiento Yo no he visto una iniciativa Pues creo que en ningún lado del mundo bueno que lo ven desde el punto de vista de la propiedad intelectual no de qué datos se utilizan para para entrenar a los modelos pero no lo estamos viendo tampoco desde el lado de vista desde el punto de vista de la representatividad de las poblaciones no O sea que sí se garantice que si vas a tomar una decisión sobre una poción va afectar una población y hay una pregunta práctica de nuevo que me lleva tu mismo punto de el grado de complejidad técnica de este tema y las pocas personas que son capaces de entenderle es decir qué posibilidades tendrías de incidir en el entrenamiento de modelos a nivel poblacional pues si no tienes a las personas conocedoras de la materia Exacto o sea y ese es el problema

29:50 también de la soberanía O sea no solamente es La regulación del entrenamiento y de la implementación de los modelos sino que tienes que también generar profesionales que puedan asegurar que La regulación se lleve a cabo no Entonces para México es fundamental eh el impulso eh Y el desarrollo tecnológico en áreas de Inteligencia artificial para que cuando empiecen a venir cada vez más algoritmos y modelos que toman decisiones sobre la vida de millones de personas y que esas millones de personas no tienen ningún tipo de Pues de agencia sobre lo que no tienen control no y pues eh 24 horas 7 días a la semana hay un modelo que está tomando una decisión por ellos no y ellos no tienen ningún tipo de control pero entonces el estado mexicano los estados en general tendrían que garantizar eh tener ellos mismos sus propios

30:50 Eh pues desarrolladores eh investigadores que puedan O sea tú dirías la primera parte de una política pública en este tema pensando en la seguridad digamos de las poblaciones en sentido amplio está en un inversión en formación de personas técnicas en Capacitación en capacidades humanas para entender de qué viene el asunto es sería tu primera digamos línea estratégica sí eh Y en paralelo también eh La regulación como ya lo hemos dicho de del entrenamiento de los modelos cuando se estén implementando porque va a ser muy difícil que se detenga la implementación de este tipo de modelos eh Hasta que tengamos a los profesionistas no es que eso lo que te iba a decir entonces porque la velocidad de esto la vemos día con día difícilmente digamos nos van a esperar a que tengamos nosotros una generación de especialistas Precisamente azados en estas materias Pero no por eso el estado mexicano debe de eh dejar de regular no

31:51 y de exigir ciertos lineamientos En la implementación de estos modelos no sobre todo cuando eh Y quizás soy muy repetitiva en esto cuando estos modelos afectan la vida de las personas pueden tener sí sesgos que afecten de alguna manera vida y derechos de las personas Pero a ver en el caso por ejemplo aquí en este programa en esta serie platicamos en alguna ocasión de los modelos regulatorios que existen en otros países no voy a simplificar muchísimo pero desde modelos de bajísima regulación que sería por ejemplo el caso de los Estados Unidos en el que corre mucho más la libertad de la lógica privada como el el intento europeo que no es un intento está en proceso ya de de implementación de un modelo regulatorio en toda la unión en toda la región europea o el caso de China que no sabemos cómo pero sí sabemos que el estado controla los desarrollos tecnológicos Por decirlo de esa manera y me voy al caso europeo uno de los problemas que han enfrentado y que enfrentaron incluso en el proceso de confección de su Marco normativo es que

32:53 mientras iban regulando la tecnología iba avanzando y terminaba Pues digamos dejando totalmente eh desactualizado en tiempo real el marco normativo qué qué decir de eso yo creo que la clave vuelve a ser el entrenamiento O sea no hay modelo que no esté entrenado no A menos que sean bueno volviendo a la cuestión técnica o sea los modelos de Inteligencia artificial pueden ser supervisados en su entrenamiento o no supervisados a totalmente automáticos no los modelos más poderosos son supervisados y esos Sí o sí tienen entrenamiento no hay una muestra una base de datos que generaliza la población en general y eso entrena el modelo y ahí Se entrena Ahí todos los modelos y en ese entrenamiento nada más una pregunta digo para un le como yo en estas materias en ese entrenamiento participan seres humanos personas ese entrenamiento lo realizan personas técnicas Exacto o sea se se crean Pues

33:54 las métricas que que o los parámetros que tiene que que tener el modelo y Digamos si hay rangos o si pasa sobrepasa un Rango que no queremos pues decimos el modelo no está bien entrenado está sesgado entonces tiene que volver a entrenar todo el modelo desde cero pero sí habría posibilidad de incidir a través de intervención humana en esa etapa del entrenamiento de los modelos y tú ahí pondrías tu atención entonces estoy mirando dos piezas tú me dices si estoy bien uno ni modo nos tardaremos pero contar con las personas técnicas capaces de entender cómo funciona esto y de incidir en el entrenamiento y dos una suerte tú usaste la palabra regulación pero de Marco normativo regulatorio en fin que haga que todos los modelos en esa etapa de entrenamiento tengan alguna suerte de supervisión Así es Sí bueno que la tienen no porque el que está supervisando los modelos se asegure que la población en la que va a ser

34:54 implementada está representada no eso no lo vamos a poder hacer con los desarrollos tecnológicos que realizan en otros países o las Industrias de otros países y sin embargo nos llegan exacto no los usamos Inteligencia artificial de muchas maneras todos los días Qué hacer con eso porque en ese caso el entrenamiento ya tuvo lugar en otro lugar Sí seguramente No se hizo cargo de las particularidades de nuestras poblaciones y nosotros lo lo lo utilizamos Qué haces ahí qué qué qué sugier es en un mundo globalizado en muchos sentidos pero sobre todo tecnológicamente absolutamente global lo que estamos haciendo es lidiar con las consecuencias no O sea en muchos casos la implementación de modelos que fueron entrenados y desarrollados en otros países en eh Y que se implementan en México en Latinoamérica pues pueden llegar a discriminar gente no O sea eh negarle acceso eh a ciertos derechos a

35:55 ciertos servicios eh en los que solamente por qué no contaban con una información que quizás en la otra población en Estados Unidos si se tiene no O ciertos parámetros por ejemplo de ingresos etcétera entonces eh Cómo lidiamos con esa con esas consecuencias pues es hasta ahorita no hay una autoridad no hay ni siquiera quien lo esté estudiando mucho sino más bien quien lo sufre es el consumidor no o el sujeto de derechos y pues está un poco abandonado a su suerte no Entonces sí me parece un poco preocupante sobre todo cuando vuelvo a lo mismo cuando estamos hablando de acceso a derechos y a servicios públicos Entonces cómo Sí o sea creo que no hay una buena respuesta de cómo es muy compleja O sea me parece que es muy compleja me parece que es muy compleja porque Además vamos a suponer que no lo veo viable no sé tú eres la experta pero

36:56 vamos a suponer que en aras de una política digamos de protección y de seguridad de las personas eh se decidiera que ciertos desarrollos tecnológicos no se van a utilizar en el país No que hay países que que que que lo hacen en fin que se decera eso el costo también Creo que es alto o sea te hago la pregunta el costo de irte rezagando irte quedando fuera irte excluyendo del aprovechamiento de los desarrollos tecnológicos Sí o sea es es un arma de doble filo no tú mencionaste el caso de Estados Unidos el caso de Europa el caso de China que son países desarrolladores y tú a India también lo menon cierto que también eh todos ellos son países que desarrollan tecnología no Y la implementan entre ellos o la venden a otros países claro la compramos nosotros Yo también entre ellos contaría a Israel no que también desarrolla much también lo mencionaste mucha tecnología de Inteligencia artificial eh Y los

37:58 demás países estamos como consumidores nada más no Entonces pienso que La regulación eh del desarrollador es distinta o debe ser distinta a la del consumidor no el consumidor tiene que procurar que su población esté protegida que esté representada que no sea discriminada no y que sea eh Pues sí incluida no en en en todo el el proceso de de implementación eh pero más allá de eso Pues tiene un poco las manos atadas porque no hay a menos de que se creen políticas como las de la India y China en el que se invierten amplios recursos del Estado para muchísimo dinero y con una planeación estratégica de mediano y largo plazo no que tomaría 20 años ver resultados un poco más este a esos niveles no pero yo creo que a México le convendría hacer algo así tú crees que sí que le convendría hacer una inversión estratégica de mediano y largo plazo en

39:00 este tema totalmente y la inversión de recursos necesaria y de formación de recursos humanos tú dirías en cuestiones de Inteligencia artificial de ciberseguridad de desarrollo de software yo creo que México tiene una gran oportunidad que no le estamos aprovechando hoy no digo hay que decirlo Yo pienso que no O sea se generan pues egresan muchos ingenieros temas no pero que no realmente desarrollan este tipo de tecnologías no O sea e son el perfil de egreso es digamos un poco más genérico no Mientras que para la implementación de cuestiones de Inteligencia artificial o de ciberseguridad pues necesita un un perfil mucho más especializado y los recursos dirías pues idealmente tendrían que ser recursos públicos recursos del estado como una inversión estratégica yo pienso que sí no y Y eso tocamos o damos

40:01 la vuelta también es sería una cuestión de seguridad nacional no y y y de otras cuestiones como mucho más Macro no de quien desarrolla este tipo de tecnologías tiene poder Exacto tiene poder ya sea público o ya sea privado y en ese sentido Qué hacer con las instancias propias nuestras que desarrollaran estas materias es decir también las tienes que regular de alguna forma que ese poder no se te salga de control Exacto Hay que llegar a un equilibrio no O sea al final de cuentas el ya aparece cliché un poco no que la información es poder no pero es que si esta información agregada con la cantidad de datos que maneja Claro que es poder no Entonces cómo equilibramos ese poder no tenemos gente que si puede desarrollar modelos los puede implementar tenemos pues necesidades el estado tiene necesidad de utilizar estos modelos eh pero no necesariamente tenemos la capacidad de

41:01 eh auditar losos No y de asegurarnos que realmente que es donde está el secreto de la cuestión entonces creo que pues sí tenemos una gran gran oportunidad como país como región eh Como región tú advertir que ahí sí la alianza regional mirando hacia el norte o mirando hacia el sur Paola qué buena pregunta yo creo que México está pues estamos en el medio no a final de cuentas estar eh al nor al sur de Estados Unidos y al norte de Sudamérica y de Centroamérica Pues nos pone una una posición privilegiada no O sea y obviamente en los países latinoamericanos hay mucho talento también o sea en Brasil en Argentina Cos este pues hay muchísima muchísima gente muy talentosa y esfuerzos estatales también importantes entonces creo que una alianza regional viendo hacia hacia el sur pero sin olvidar al norte creo que también es bastante virtuosa no y actuar como puentes o sea creo que México puede

42:03 eh utilizar su posición geográfica para Eh pues cerrar las brechas no que existen ahora va a haber una coyuntura interesante pensando en el norte y en este caso en Estados Unidos y Canadá con la necesaria que iniciará formalmente eh eh en 2026 pero desde 2025 renegociación de los términos del tratado entre Estados Unidos Canadá y México y ahí hay un capítulo tecnológico tú ves ahí una ventana de oportunidad totalmente o sea creo que es justo el momento en el que podemos incidir en cómo nos afecta a México la implementación de de lo que sucede sobre Too en Estados Unidos porque es sobre todo Estados Unidos no tanto Canadá pero ahí es hacia donde hay que mirar exacto y ahí hay quien dice Paola y te hago la pregunta directa porque hemos estado mirando desde el estado lo que deberíamos de hacer un poco en una lógica de política pública en estos minutos Pero hay quien dice que la mejor regulación en esta materia es la autorregulación y que la industria se

43:03 autorregule y se autoc contenga digo te tengo que hacer la pregunta qué opinas de esa de esa estrategia Pues yo creo que o sea si más bien tenemos mucha experiencia en eso pensando en Estados Unidos eh sobre todo ahí puse mi atención Exacto Entonces hay empresas en Estados Unidos que han desarrollado modelos y los han implementado sin ningún tipo de regulación no y hemos visto que sucede no hemos visto que eh estos modelos han decidido sobre la libertad de las personas han decidido sobre el acceso a vivienda sobre el acceso al empleo sobre el acceso a la salud de las personas y No necesariamente lo han hecho de una forma justa no pero han generado muchos ingresos a muchas empresas no Entonces digamos que eh Por un lado tienes el incentivo económico que es muy grande pero por otro lado tienes eh Pues los problemas sociales que generan estas eh la implementación de estos modelos sin supervisión sin regulación no Entonces

44:06 para mí lo que ha sucedido en Estados Unidos es un es prueba de que tiene que haber un balance no entre el impulso y desarrollo tecnológico eh y el impacto social no O sea y ese balance dice le correspondería al Estado a la autoridad Estatal llevarlo a cabo digamos la idea no se me ocurre otro actor que pueda hacer este tipo de para eso están los estados o sea es como Sí o sea pienso que el estado tiene que tener la capacidad técnica de hacer ese tipo de regulaciones okay Y aquí hay una pregunta Que que también me interesa mucho tu opinión hay quienes decimos Y mira que lo dije esta vez incluyéndome porque yo lo digo que cualquier intento de regulación o como diría Alejandro pisanti de gobernanza que me convence esa lógica más de gobernanza de de estos ecosistemas tecnológicos eh requiere una intervención de actores de distintos sectores sí que tiene que ser si el gobierno el estado obviamente pero que

45:06 tiene necesariamente que escucharse a la Academia que tiene que escucharse al sector y a las organizaciones sociales y por supuesto y aquí es la parte que también subrayo a la industria porque al final es la que desarrolla y es la que conoce Cómo se desarrolla qué opinarías de esto estoy de acuerdo pero creo que nos faltó un actor principal que son las poblaciones las poblaciones porque dijes organizaciones sociales dirías no no no es eso hay que mirar otra cosa G exacto no O sea eh que hay inclusive dichos no que es eh No más eh decisiones sobre nosotros y nosotros no O sea creo que eso es fundamental O sea no me parece muy importante creo que estoy de acuerdo en como un actor más digamos pero un actor más protagónico sí no eh Me parece la multisectorial didad y la multidisciplinariedad fundamentales no O sea sí tiene que ver para mí en mi experiencia profesional no ha habido mayor eh colaboración virtuosa que cuando trabajo con abogados con

46:07 activistas eh con Defensores de Derechos Humanos no que no necesariamente son técnicos no pero para mí la lo interesante y la belleza de de del de lo técnico radica en la implementación no solamente técnica sino la implementación to claro todo este acompañamiento de implementación que ahí me parece que hay una parte importante Exacto a ver eh México está no es análisis de coyuntura política pero México está en este momento iniciando digamos un nuevo gobierno y el gobierno de la presidenta shb viene con una propuesta de una agencia de tecnologías nacional una agencia que no existía antes que el gobierno anterior me daado la impresión de que no es una agenda la que le haya puesto mayor atención y aquí sí viene con una idea de impulsar una agencia Te parece que es una buena idea que es un buen primer paso que va en la dirección correcta qué opinarías de esta de esta agencia nacional Definitivamente creo

47:07 que es un buen paso fortalece las capacidades técnicas del Gobierno Federal no y no solamente eso sino pienso que parte de la mística de esa agencia va a ser la distribución del conocimiento a varios niveles no Además de que según Tengo entendido Pues hay cuestiones de apertura de gobierno de datos abiertos de transparencia etcétera entonces creo que sí tiene una visión positiva no y que creo que es va a ser el lugar donde va a suceder o debería de suceder este tipo de de de regulación o de eh Al menos de que el gobierno tenga una opinión sobre la implementación de estas tecnologías de alguna manera va a ser la instancia que va a ir orientando la política del gobierno en en esta dirección debería de ser sí debería de ser sí y yo creo que ahí eh la parte interesante es que también ya hay algo de experiencia que viene desde la Ciudad de México de parte del equipo que que está implementando pero el gran reto es cómo llevas esto a la enorme diversidad

48:07 de un país como el nuestro Paola Ese es el gran gran reto no y en general se puede aprovechar la Inteligencia artificial que puede ser un impulsor un acelerador de estas nuevas tecnologías me encanta la idea es que la propia Inteligencia artificial pueda ser una herramienta para potenciar nuestras cl y para entender al país mejor pues Paula ha sido un gustazo tenerte aquí en esta edición de nuestra serie la justicia que viene los retos de la Inteligencia artificial que como bien dices pensando en términos de Justicia no basta la misión y la visión de los juristas de quienes nos dedicamos a las cuestiones del Derecho sino que es necesario mirar en toda su complejidad la dimensión social en su conjunto entonces Gracias en verdad paol ha sido un gustazo tenerte por acá y gracias a usted por habernos acompañado a esta edición de nuestra serie aquí en justicia TV la Inteligencia artificial vista desde la perspectiva de los retos

49:08 para la justicia nos vemos aquí en la próxima edición acompañe y