Cuando hace unas semanas OpenAI presentó Sora, su herramienta de generación de vídeo mediante inteligencia artificial que permite generar vídeos breves (de hasta 60 segundos) mediante un prompt de texto, el mundo quedó fascinado y atemorizado a partes iguales.
Fascinado porque esta herramienta permite realizar vídeos fotorrealistas o muy próximos a una producción real (aunque sea de corta duración), de una forma muy fácil a partir de instrucciones sencillas en lenguaje natural, obteniendo un resultado de muy alta calidad. Y atemorizado porque los malos usos que se pueden dar a esta herramienta son múltiples, especialmente en el ámbito de las fake news.
Era de esperar, por lo tanto, que OpenAI trabajara en la inclusión de salvaguardas para impedir o, por lo menos, limitar tanto como sea posible, su mal uso. Personalmente, pienso que anunciar la existencia de Sora mostrando sus posibilidades pero sin ponerla todavía a disposición de los potenciales usuarios, ha ido precisamente en la línea de fomentar el debate público sobre dicha herramienta para ver cuáles son los temores de la población y prevenirlos antes de ponerla a disposición de los internautas.
La implementación de estas salvaguardas lleva tiempo, por lo que no debe extrañarnos que ya en la presentación pública de Sora, OpenAI nos dijera que dicha herramienta se encontraría disponible más adelante, pero sin precisar cuándo.
Ahora, y en una entrevista al The Wall Street Journal, Mira Murati (CTO de OpenAI) ha afirmado que Sora se introducirá de manera gradual, y que actualmente su compañía trabaja para optimizar su rendimiento y consumo, ya que la generación de contenido de vídeo es costosa en términos económicos y energéticos.
Sobre el posible mal uso que se pueden dar a los clips de vídeo generados por dicha herramienta, Murati indicó que en el momento de su generación quedarán marcados por metadatos específicos y una marca de agua, de forma que puedan ser reconocidos de manera distintiva, e identificados como producto de una IA. De esta forma, los medios de comunicación y fact checkers, podrán identificar en seguida lo que sea producido por esta IA para convertirlo en fake news, denunciándolo.
Junto a esto, el sistema de Sora contará también con restricciones para generar imágenes de figuras públicas tales como políticos y celebridades, evitando así la realización de deepfakes.
Murati también dijo que OpenAI tiene planes para incorporar, en un futuro, audio a los vídeos generados, aunque sin precisar cuándo. Actualmente, los vídeos generados carecen de banda sonora, voces, o cualquier otro elemento sonoro.
Un tema polémico es el entreno de Sora, que se ha hecho alimentando al modelo con vídeos públicos e imágenes capturadas en Internet, lo cual lleva a que el sistema pueda acabar generando algún personaje, objeto o contenido que tenga posibilidades de violar algún derecho de copyright por parecerse demasiado a algo registrado.
No obstante, Murati no confirmó ni desmintió que OpenAI haya utilizado los vídeos de plataformas como YouTube o Facebook colgados por sus usuarios.
