Transcripción automática, sin corregir a mano. Puede tener errores.

55:15 yourself or have you been? How do you use AI? But uh I would say you know for the most but you can use AI for a lot of things. Speaking of AI flot cameras you haven't talked a lot about these flot cameras. A lot of law enforcements say they really help them. Would you be willing to back that? Y hoy nos acompaña Paola Villarreal, especialista en inteligencia artificial para gobierno y científica de datos. Paola, muchísimas gracias por estar en la base de América Latina. Bienvenida. Muchas gracias por invitarme. Estoy muy contenta de estar aquí. Paola, en este debate en el que unos plantean parar el desarrollo de la IA y otros dicen que esto no se puede hacer, eh, ¿dónde te encuentras tú? Y explícanos, por favor, por qué. Eh, bueno, yo he planteado que sí se necesita un poco repensar las cosas y y

56:18 desacelerar el desarrollo de la inteligencia artificial, sobre todo cuando estamos hablando de la inteligencia artificial para tomar decisiones sobre derechos humanos o sobre acceso a servicios públicos o para que el gobierno tome decisiones sobre los ciudadanos, ¿no? Entonces, yo siento que sí hay que eh detener un poco ese desarrollo y pensar más bien hacia dónde queremos ir y qué decisiones queremos tomar. Eh, y qué datos queremos utilizar de las personas para entrenar estos modelos. Paola, gracias por estar en la base América Latina. Estuvimos hablando bastante de las grandes empresas estadounidenses, Anthropic, OpenAI y las diferencias con las empresas en China. Pero, si podrías explicar un poco cuál es la gran diferencia entre la inteligencia artificial desarrollada en China, la que se hace en Estados Unidos y si una es mejor que la otra o no y por qué, si es el rol del Estado, o qué es lo que sucede? Claro. Eh, bueno, todas eh, digamos tienen las mismas métricas en las que se miden la competencia de cada una de las inteligencias artificiales. Es decir, hay eh métricas

57:19 que hacen que una IA resuelva problemas y califican eh pues lo bien que lo resuelven, ¿no? Y con eso se va calificando si una inteligencia artificial es más avanzada que otra. eh las Chinas y las de Estados Unidos son equivalentes, ¿no? La gran diferencia, bueno, hay dos diferencias grandes, una eh de China vienen varios modelos que son abiertos, es decir, que están eh publicadas sus eh datos de entrenamiento y casi todo el código fuente que eh corre detrás de estos modelos. Eh, las estadounidenses no tanto. Hay algunas cosas que son abiertas, otras que no son tanto y sobre todo tienen servicios encima que obviamente son de paga, ¿no? Muy de paga. Entonces, yo por ejemplo, puedo tener una computadora poderosa y es mucho más sencillo tener un modelo chino que un estadounidense en mi computadora, ¿no? Entonces, [carraspeo] eh para yo correr un modelo estadounidense, necesito pagarles mucho dinero. Eh, la segunda diferencia más

58:20 grande es el modelo económico detrás de esto, ¿no? en China no es necesariamente un modelo económico, pues digamos más capitalista o más neoliberal en el que hay que pagar una suscripción, este hay que capturar eh digamos la partes grandes de la economía, ¿no? Muchas de estas empresas en Estados Unidos están ya no solo dedicadas a el desarrollo de modelos, sino también a implementar estos modelos en, por ejemplo, eh servicios de aplicaciones de reparto de de comida o de taxis o de eh servicios al cliente, operaciones eh pues de atención al público, cajeros, etcétera, ¿no? ellos están dedicados a capturar, digamos parte del mercado y parte del empleo de las personas, ¿no? [carraspeo] Entonces hay muchísima eh digamos mucho riesgo en el sentido de que pues están sustituyendo a muchas

59:21 personas eh con sus modelos o al empleo de muchas personas con estos modelos, ¿no? O sea, son varias capas, digamos, ¿no? Que que están encima de otras y que en China no necesariamente es así por su propio modelo económico, ¿no? Y te [carraspeo] agrego solo una pregunta a la pregunta. El hecho de que en China esté el Estado involucrado la hace más segura, la hace más inteligente de cara al desarro. No necesariamente, no necesariamente es la presencia del estado. Lo que la hace más eh digamos segura es que es más abierta, ¿no? Entonces hay más ojos que están viendo que no haya, por ejemplo, le llamamos backdoors, ¿no? Que de repente se activa este backdoor y le da acceso a una entidad de vigilancia masiva, ¿no? hasta ahora no se han encontrado este tipo de backdoors en en [carraspeo] estas tecnologías, pero digamos el código abierto lo hace más segura por por default, ¿no?

01:00:21 [tos][carraspeo] Eh, Paola, esta pregunta es un poco el que fue primero luego de la gallina o hacia dónde vamos, pero hay una manera de que se pueda autorregular la inteligencia artificial. El problema es la inteligencia artificial o es quien es dueña de la inteligencia artificial. Un poco porque en la conversación que se está teniendo ahorita es bueno, no es del todo mala, la necesitamos, hay que regularla. O también hay otra conversación de otro lado que paremos esto, quedémonos como está, dejen de desarrollar esto que puede ser y terminar en el la humanidad. O sea, ¿cómo lo ves tú? Eh, yo pienso que es, o sea, sí la necesitamos, ¿no? O sea, yo me dedico a hacer inteligencia artificial, uso inteligencia artificial todos los días, de eso vivo. Y a mí sí me ha ayudado eh a ser mucho más productiva en pues en múltiples veces, ¿no? O sea, soy 20 veces más productiva gracias a que utilizo diversas tecnologías de de inteligencia artificial. Entonces, yo estoy a favor del uso de esto. Estoy en contra,

01:01:21 digamos, y sí veo un peligro en el uso de la inteligencia artificial sin ningún tipo de mecanismos de rendición de cuentas para, por ejemplo, decidir objetivos militares, ¿no? que eso ya se está utilizando en Ucrania, eh se utiliza en Gaza, eh en el que armas equipado, drones equipados con modelos de inteligencia artificial deciden automáticamente a quién eh pues matar, ¿no? Y a quién no. Entonces, ese tipo de modelos que hacen clasificación de personas, eh, y bueno, las armas autónomas son algo un peligro latente, que hay una discusión muy grande en la ONU sobre esto, pero pues eso es como un caso extremo, ¿no? Hay otros que son mucho más eh tangibles, por ejemplo, el acceso a la salud, el acceso a los servicios eh económicos, ¿no? O sea, que te que te den un crédito, que te den acceso a una casa, que te renten un departamento o que inclusive te den

01:02:22 empleo. Eh, pues está pasando todas esas decisiones están pasando por modelos de inteligencia artificial que no tienen mecanismos de rendición de cuentas, ¿no? Entonces, toda esta responsabilidad que es, por ejemplo, te niego un crédito, pues no fui yo, sino más bien fue el modelo, fue el algoritmo y pues quién sabe, ¿no? Reclámale a ellos. o por ejemplo, en el caso de las aplicaciones de Uber, eh Didi, etcétera, pues los empleos o o los empleados, digamos, eh están siendo manejados por algoritmos. Eh, a veces son despedidos por los propios algoritmos y no tienen a nadie a quien reclamarle, ¿no? Entonces, ya su jefe eh literalmente es un modelo de inteligencia artificial y pues cuando ese modelo decide que ya no hay más trabajo para esa persona, no hay a quien [carraspeo] eh discutirle, no hay a quien reclamarle y no hay en muchos casos vuelta atrás. Hola, me sumo a esto que tenía Marco de hacer otra pregunta porque también me quedé con una duda y es que eh tú haces asesoría para

01:03:23 gobiernos. Sí. ¿Crees que como la discusión de las redes sociales que no es lo mismo, pero tendría que haber una inteligencia artificial pública? Sí, o sea, eh siento que es una cuestión más de eh para el servicio al público, o sea, para un trámite, por ejemplo, creo que sí es muy útil que el gobierno utilice inteligencia artificial. para que nos dé mejores servicios a los ciudadanos, ¿no? Entonces, para llegar a eso, necesitamos que el Estado tenga la infraestructura suficiente y el conocimiento suficiente, el desarrollo tecnológico suficiente para crear su propia eh tecnología, sus propios modelos y también tener soberanía sobre eh esos modelos. ¿Por qué? Porque si no se hace así y se decide que se va a contratar a una empresa de Estados Unidos para brindar estos servicios, pues se crea una dependencia tecnológica que pues es mucho más peligrosa que que que todo el beneficio que nos pueda dar, ¿no? Entonces sí ahí hay ahí hay

01:04:25 que balancear, es una cuestión de un balance muy delicado. Paola, muchísimas gracias por tu análisis. Muchas gracias por la invitación y llegamos al final de este programa. No se olviden de suscribirse a nuestras redes sociales en YouTube, La Base América Latina, la Base América Latina en Instagram, también estamos en Facebook, en TikTok, en X, en todas las plataformas. Y como siempre les animo a que se hagan socias y socios de Canal Red América Latina. es muy importante para nosotros para que podamos seguir trabajando. Supongo que les gusta más que estemos todos nosotros con los compañeros aquí sacando este programa que un puñado de agentes de inteligencia artificial que encima un día se pueden revelar y decir cosas contrarias a las que se dicen aquí en la base de América Latina. Nos vamos a ver aquí mañana seguro. Les pedimos disculpas por habernos ausentado el jueves pasado. Cosas que pasan, unos se enferman, otros tienen trámites. Mañana vamos a estar