“Padrino de la IA” abandona Google y pone el futuro de la tecnología sobre aviso

Geoffrey Hinton, conocido como el “padrino de la IA”, abandona Google y aviso de los peligros que plantea la tecnología.

Geoffrey Hinton trabajó en Google durante más de una década y desarrolló tecnología que allanó el camino para los sistemas de IA (inteligencia artificial) actuales, como ChatGPT. Sin embargo, el experto en tecnología renunció a la empresa para poder dar la voz de alarma sobre los peligros de la inteligencia artificial.

Le dijo a The New York Times que lamenta el trabajo con el que contribuyó al campo. “Me consuelo con la excusa normal: si yo no lo hubiera hecho, hubiera sido otro”, dijo.

A corto plazo, teme que la tecnología signifique que las personas “ya no podrán saber lo que es verdad” debido a la proliferación de imágenes, vídeos y textos falsos, dijo.

Pero en el futuro, los sistemas de IA podrían adoptar un comportamiento inesperado y peligroso, y dichos sistemas eventualmente favorecerán el desarrollo de robots asesinos. También advirtió que la tecnología podría perjudiciar el mercado laboral.

“Algunos creían en la idea de que estas cosas en realidad podrían volverse más inteligentes que las personas”, señala. “Pero la mayoría de la gente pensaba que estaba muy lejos. Yo pensaba que estaba muy lejos. Supuse que faltaban entre 30 y 50 años o incluso más. Obviamente, ya no pienso así”.

Advirtió que se requiere una regulación para garantizar que empresas como Google y Microsoft no se vean envueltas en una competencia peligrosa. Es posible que esas empresas ya estén trabajando en sistemas peligrosos en secreto, sugirió.

“Creo que se deberían frenar los trabajos en este ámbito hasta que se entienda bien si sería posible controlar la IA”, observó.

El Dr. Hinton no es el primer experto en inteligencia artificial que da la voz de alarma sobre los peligros de las tecnologías que han preparado. En los últimos meses, dos importantes cartas abiertas firmadas por personas que ayudaron a crear la IA advirtieron sobre los “riesgos profundos para la sociedad y la humanidad”.

Al igual que muchos otros, el Dr. Hinton dijo que se había preocupado más por los riesgos de la tecnología durante el último año, con el desarrollo de tecnologías como ChatGPT de OpenAI y Bard de Google. Cambió de opinión cuando llegó a creer que los sistemas comenzaban a comportarse de formas que no eran posibles en el cerebro humano.

“Tal vez lo que sucede en estos sistemas es en realidad mucho más avanzado que lo que ocurre en el cerebro”, le dijo al New York Times.

Es probable que esa teoría sea aún más cierta en los próximos años, a medida que las empresas perfeccionan y entrenan aún más sus sistemas de IA. Mientras lo hacen, él teme que los sistemas se vuelvan más peligrosos.

“Mira cómo era hace cinco años y cómo es ahora”, dijo de la tecnología. “Toma la diferencia y proyéctala hacia adelante. Da miedo”.

_{Traducción de Michelle Padilla}