Informe de la UNESCO advierte sobre el uso de la IA para promover el antisemitismo

Según una investigación reciente de la UNESCO, sin principios éticos claros en torno al entrenamiento de los modelos de IA (inteligencia artificial), la tecnología podría utilizarse para difundir información falsa y para distorsionar los hechos históricos vinculados con el Holocausto sin que nadie lo note.

Los modelos que se utilizan para los asistentes de IA y los chatbots se entrenan utilizando grandes cantidades de datos, que a menudo se extraen de Internet; sin embargo, el informe de la UNESCO advierte que pueden incluir contenido engañoso y perjudicial y que los sistemas de IA, como resultado, pueden acarrear prejuicios, reforzarlos y tergiversar la información sobre los acontecimientos del pasado.

En cuanto al Holocausto, el hecho es especialmente susceptible a este tipo de riesgos debido a la cantidad de información errónea que circula por Internet.

Además, ante la ausencia de datos o detalles específicos sobre determinados acontecimientos relacionados con el Holocausto, las herramientas de IA son propensas a inventar hechos (conocidos como alucinaciones), lo que puede socavar aún más los hechos probados y la confianza en los especialistas.

Desde la organización internacional, señalaron que estas cuestiones son muy preocupantes porque muchos estudiantes utilizan herramientas de IA para completar sus deberes y, por tanto, corren el riesgo de verse expuestos a información perjudicial.

Varios asistentes de gran repercusión han tenido problemas con los resultados que producen, p. ej., las descripciones generales de Google basadas en IA que aparecen en los resultados de búsqueda en EE.UU., y que han generado una serie de respuestas engañosas señaladas por los usuarios.

En palabras de Audrey Azoulay, directora general de la UNESCO: “Si permitimos que los hechos espantosos del Holocausto se diluyan, distorsionen o falsifiquen mediante el uso irresponsable de la IA, corremos el riesgo de que el antisemitismo se extienda de forma explosiva y de que disminuya gradualmente nuestra comprensión de las causas y consecuencias de estas atrocidades”.

Y agregó: “Poner en práctica las Recomendaciones sobre la ética de la IA de la UNESCO es una situación urgente para que las generaciones más jóvenes crezcan con hechos, no con invenciones”.

Muchos países aún no han introducido una normativa sobre el uso de la IA; sin embargo, la UNESCO ha instado a los Gobiernos a aplicar sus recomendaciones, es decir, pedir que los derechos humanos estén en el centro del desarrollo de la IA y que sus avances se basen en principios de transparencia y equidad, y en mantener la supervisión humana de los sistemas.