El laboratorio de investigación Midjourney ha pausado las pruebas gratuitas de su software de generación de imágenes después de que los usuarios participaran en falsificaciones profundas de los hechos, incluido el arresto del expresidente de los Estados Unidos Donald Trump y el Papa Francisco con una chaqueta acolchada.
Medjourney respondió a la solicitud de prueba de hoy con una carta diciendo que no se podía proporcionar y que intentara de nuevo otro día.
Las imágenes creadas con la plataforma de IA, en particular las de Trump y el Papa que se hicieron virales, han arrojado luz sobre el laboratorio de San Francisco.
“Debido a una combinación de demanda excepcional y abuso experimental, estamos deshabilitando temporalmente las pruebas gratuitas hasta que se implementen las próximas mejoras en el sistema”, dijo el fundador de Midjourney, David Halls, en una publicación en el canal Discord de la compañía.
El servicio genera imágenes de aspecto realista basadas en indicaciones escritas enviadas por los usuarios.
Se lanzó en modo de prueba a mediados de 2022, con evaluadores independientes actualizando constantemente el software.
Los usuarios han elogiado la versión recién lanzada de Midjourney por el realismo mejorado en las imágenes producidas.
Además de frenar nuevas pruebas gratuitas, Midjourney ha prohibido el uso de ciertas palabras, como «arrestado», para inducir la creación de imágenes.
Hoy, Medjourney rechazó la solicitud de Agence France-Presse de generar una foto del expresidente de EE. UU. siendo arrestado frente a la Torre Trump en Nueva York.
Una carta de Midjourney afirma que «la palabra ‘detenido’ está prohibida».
Eludir este filtro para violar nuestras reglas puede revocar su acceso.
Leer más
¿Por qué es tan fácil caer en las imágenes falsas de IA?
El multimillonario y propietario de Twitter, Elon Musk, y un grupo de expertos pidieron ayer una pausa en el desarrollo de poderosos sistemas de inteligencia artificial para dar tiempo a garantizar su seguridad.
Una carta abierta, firmada por más de 1000 personas hasta el momento, incluidos Musk y el cofundador de Apple, Steve Wozniak, fue impulsada por el lanzamiento de la plataforma de inteligencia artificial GPT-4 de OpenAI respaldada por Microsoft.
El pionero canadiense de la inteligencia artificial Joshua Bengio, quien firmó la carta, advirtió durante una conferencia de prensa virtual en Montreal que “la sociedad no está preparada” para esta poderosa herramienta y su posible uso indebido.
«Reduzcamos la velocidad. Asegurémonos de desarrollar mejores barandas», dijo.