“¿Cuál es el futuro del pensamiento y del raciocinio que queremos preservar? Si los niños ya están naciendo en medio de una cantidad excesiva de pantallas, prefiriendo hacer movimientos en la pantalla a tomar un lápiz o una lapicera, precisamos tratar de asegurar lo que va a venir a ser el nuevo estándar de raciocinio.” Fue con ese alerta que la científica de la +computación Nina de la Hora inició su participación en el panel Inteligencias Artificiales Generativas: Desafiando los Límites de la Realidad y de la Creatividad en la Educación e Investigación, en la tarde de este lunes (22), primer día del WRNP. 

La conversación sobre el uso de herramientas como el ChatGPT en la educación y en la investigación académica fue mediada por la líder del Comité Técnico de Ciencia de Datos e Inteligencia de la RNP, Daniela Brauner. El profesor de la PUC-SP Diogo Cortiz y el profesor asociado del Departamento de Ciencia de la Computación de la Purdue University (Indiana, EE.UU.) Bruno Ribeiro completaron la mesa. Nina de la Hora participó de forma remota. 

Para Diogo Cortiz, las inteligencias artificiales generativas crean un nuevo paradigma en la sociedad, transformando constantemente la relación entre trabajo y tecnología. “El ChatGPT fue entrenado para dar no solamente cualquier respuesta, sino una respuesta que convenza a los humanos. El ChatGPT nunca va a decir “no sé”. Siempre va a generar respuestas convincentes – no necesariamente correctas, pero que sean plausibles para que el humano las entiendan como buenas respuestas”, explicó el profesor de la PUC-SP. 

Bruno Ribeiro dejó claro que ve a la inteligencia artificial de forma positiva, a pesar de sus riesgos. “Cuando creamos la web, automáticamente pensamos que iría a democratizar la información. Pero si usted no sabe las palabras clave en el navegador de búsqueda, no a a encontrar la información. Con el ChatGPT, es diferente. Va a ser fantástico que las personas no necesiten saber exactamente las palabras clave para buscar la información que precisan”, afirmó el investigador.

Aunque haya lanzado alertas, Nina de la Hora considera que los humanos no serán sustituidos por máquinas en un futuro próximo. “Soy un poco escéptica con relación a esa conclusión [de que seremos sustituidos por máquinas] porque el proceso de creación no puede ser visualizado tan solo en el resultado.”

Inteligencia artificial generativa y fake news

El uso de IA para producción de fake news también fue destacado en la discusión del panel. En la visión del profesor de la Purdue University, el ChatGPT no amplifica tanto los problemas relacionados a esa cuestión. “Ya hay humanos suficientes para crear fake news. El gran problema de las fake news es su diseminación, no su producción”, afirmó Bruno Ribeiro. 

Nina de la Hora recordó el episodio de la Cambridge Analytica, que difundió datos personales y contribuyó para manipular a la opinión pública y ayudar en la elección de Donald Trump, en 2018, en los Estados Unidos. “Ese caso destacó la importancia de la protección de datos de los usuarios, porque son muy usados para manipular informaciones y diseminarlas de forma rápida. Este es el punto: la diseminación de fake news se vuelve tan rápida a punto de que no tenemos tiempo de moderarlas y prevenirnos de sus impactos”, dijo.

“La cuestión más sensible es que la IA generativa trabaja con imagen, audio, vídeos, que son súper convincentes”, afirmó Diogo Cortizo, recordando el episodio en que una imagen generada por IA mostraba al Papa Francisco vistiendo un abrigo moderno. “En algunos casos, como este, incluso un periodista especializado de una revista de moda no consiguió hacer la distinción y publicó la foto. La tecnología va a evolucionar muy rápido, y muchos científicos creen que estamos entrando en un ambiente de la realidad sintética”, concluyó el profesor.