Sora: el esperado generador de video de OpenAI debuta con precauciones para evitar mal uso

OpenAI estrenó Sora, la herramienta de creación de video que en un principio sugirió que podría ser demasiado potente para ponerla a disponibilidad del público con seguridad.

Pero la característica específica del sistema que había generado más expectación e indignación no estará disponible para casi todos los usuarios. A la mayoría se le prohibirá incluir personas en sus videos por temor a que se abuse de la tecnología.

Incluso con estas restricciones, el lanzamiento resultó ser tan popular que OpenAI tuvo que pausar la creación de nuevas cuentas para hacer frente a la demanda.

Los usuarios de la versión premium del producto estrella de OpenAI, ChatGPT, ya pueden utilizar Sora para crear al instante videos generados por IA a partir de órdenes escritas. Entre los ejemplos destacados se encuentran videoclips de alta calidad de osos luchadores de sumo y un gato sorbiendo café.

Pero solo un pequeño grupo de usuarios invitados puede experimentar con Sora para hacer videos de seres humanos, ya que OpenAI trabaja para “abordar las preocupaciones en torno a la apropiación indebida de la semejanza y deepfakes”, aseveró la compañía en una entrada de blog.

Las herramientas de IA de texto a video como Sora se han presentado como una forma de ahorrar costos en la creación de nuevos videos de entretenimiento y marketing, pero también han suscitado preocupación por la facilidad con la que podrían suplantar a personas reales en política y otros ámbitos.

OpenAI afirma que bloqueará los contenidos con desnudos y que una de sus principales prioridades es evitar los usos más nocivos, como el material de abuso sexual infantil y los deepfakes sexuales.

El esperado producto recibió tanta respuesta tras su lanzamiento el lunes que OpenAI suspendió temporalmente la creación de nuevas cuentas.

“Estamos registrando un tráfico intenso y hemos desactivado temporalmente la creación de cuentas de Sora”, según su página web.

OpenAI presentó Sora por primera vez a principios de año, pero dijo que quería colaborar primero con artistas, legisladores y otros antes de hacer pública la nueva herramienta.

La empresa, que ha sido demandada por algunos autores y por The New York Times por el uso de obras escritas protegidas por derechos de autor para entrenar a ChatGPT, no ha revelado qué imágenes y fuentes de video se utilizaron para entrenar a Sora.

Artículo elaborado con informes adicionales de agencias