Nueva herramienta de IA de Musk pone a prueba la ética tecnológica con imágenes perturbadoras
El sistema genera escenas violentas con personajes protegidos por derechos de autor e imágenes engañosas de famosos y políticos
Las nuevas capacidades de generación de imágenes del sistema de inteligencia artificial (IA) de Elon Musk desataron una ola de indignación por las fotos que es capaz de generar.
Desde su lanzamiento, la startup de inteligencia artificial xAI de Musk y su sistema Grok se desarrollaron de manera explícita sin las mismas directrices estrictas que limitan otros sistemas como los de OpenAI y Google. Aunque Musk ha insinuado varias veces que es un intento de evitar interferencias políticas, también significa que carece de los mismos límites para el material protegido por derechos de autor o potencialmente peligroso.
Ahora xAI lanzó una nueva versión de Grok, capaz de generar imágenes. Tampoco parece tener límites significativos en cuanto a lo que puede generar, e incluso es fácil evadir las reglas más laxas con una instrucción ingeniosa.
En consecuencia, el generador produce imágenes fotorrealistas que podrían ser engañosas e imágenes que podrían infringir los derechos de autor. Las imágenes más populares que circularon en X tras el lanzamiento del sistema mostraban, por ejemplo, escenas violentas con personajes protegidos por derechos de autor, o a políticos que aparecían apoyando campañas con las que no estaban de acuerdo o incluso respaldando atentados terroristas.
Algunas de esas imágenes gráficas eran especialmente perturbadoras. Las imágenes más difundidas mostraban, por ejemplo, a Mickey Mouse portando una pistola o alrededor de un montón de cadáveres.
Asimismo, el sistema también podría utilizarse para generar fotos de famosas en lencería. Si bien este tipo de capacidades se han visto a menudo limitadas en otras herramientas de IA, ante la preocupación de que pudieran utilizarse para crear imágenes falsas de adultos, este tipo de contenido ha proliferado.
El revuelo se suscitó después de las duras críticas contra X y Musk por el papel que la plataforma desempeñó en los recientes disturbios en Gran Bretaña. La difusión de información errónea desencadenó gran parte del alboroto, mientras que Musk interactuó con figuras de extrema derecha en el sitio y reiteró su creencia en la “absoluta libertad de expresión”.
Daniel Card, miembro del BCS, The Chartered Institute for IT, afirmó que el problema de la desinformación en X es una “crisis social” por su impacto potencial.
“Grok puede tener algunas barreras de protección, pero está desatando un torrente de desinformación, caos por derechos de autor y deepfakes explícitos”, observó.
“No se trata solo de un problema de defensa, sino de una crisis social. La guerra de la información se ha convertido en una amenaza mayor que los ciberataques, pues se ha infiltrado en nuestra vida cotidiana y ha distorsionado las percepciones globales”.
“Estos retos exigen soluciones audaces y modernas. A la hora que los reguladores intervienen, la desinformación ya llegó a millones de personas y se extiende a un ritmo para el que no estamos preparados”.
“En Estados Unidos se está extendiendo una visión distorsionada de países como el Reino Unido, que se nutre de informes exagerados de peligro. Nos encontramos en una coyuntura crítica para encontrar la verdad en la era de la IA”.
“Se están quedando cortas nuestras estrategias actuales. A medida que avanzamos hacia un mundo híbrido digital-físico, esta amenaza podría convertirse en el mayor reto de la sociedad. Debemos actuar ya: autoridades, gobiernos y líderes tecnológicos deben dar un paso al frente”.
No obstante, Musk pareció deleitarse con la controversia de la actualización del chatbot, y publicó en X el miércoles: “¡Grok es la IA más divertida del mundo!”.
Compartió un hilo de consejos para utilizar el sistema, que incluía respuestas de una serie de usuarios que demostraban cómo podía utilizarse para crear imágenes fotorrealistas de personajes de la actualidad.
También volvió a publicar un tuit en el que un usuario decía que el “troleo” que permitiría el nuevo sistema sería “épico”.
Artículo elaborado con informes adicionales de agencias
Traducción de Michelle Padilla