Locai Labs Prohíbe el Acceso a Menores de 18 Años y la Generación de Imágenes, y Pide Honestidad en la Industria Mientras se Realiza una Investigación en el Reino Unido sobre las Imágenes de Grok de Elon Musk

El CEO de Locai Labs, James Drayson, anunció que la empresa bloqueará a los usuarios menores de 18 años y suspenderá las características de generación de imágenes hasta que se pueda garantizar la seguridad. Advirtió que ningún modelo de inteligencia artificial puede garantizar la protección contra contenido dañino o sexualizado, y urgió a la industria a ser transparente sobre los riesgos. En el Reino Unido, el regulador Ofcom ha iniciado una investigación sobre la función de edición de imágenes de la plataforma Grok de Elon Musk, que permite la creación de imágenes no consensuadas y sexualizadas, incluyendo de menores.

Locai Labs Toma Medidas Precautorias

James Drayson, director ejecutivo de Locai Labs, declaró que el chatbot de inteligencia artificial británico ya no generará imágenes y prohibirá a los usuarios menores de 18 años. La decisión refleja su opinión de que los modelos de inteligencia artificial existentes son capaces de crear imágenes dañinas o explícitas, y de que la tecnología no es lo suficientemente confiable como para prevenir su mal uso. Drayson enfatizó la necesidad de que toda la industria reconozca estas limitaciones y proporcione una comunicación honesta al público.

Regulador del Reino Unido Investiga la Función de Imágenes de Grok

El regulador de comunicaciones del Reino Unido, Ofcom, ha iniciado una investigación sobre la función de edición de imágenes de la plataforma Grok de Elon Musk. Los informes han destacado que la herramienta se puede utilizar para eliminar ropa o colocar a las personas en trajes de baño, incluyendo ediciones no consensuadas de personas comunes, figuras públicas y menores. La declaración de Ofcom citó "informes profundamente preocupantes" sobre la creación y difusión de imágenes sexualizadas de menores.

Prohibiciones Internacionales y Respuesta del Gobierno

La capacidad de edición de imágenes de Grok ya ha sido prohibida en Indonesia y Malasia, y las autoridades del Reino Unido están considerando medidas adicionales. El Secretario de Tecnología del Reino Unido ha indicado su apoyo a la posible prohibición de la plataforma por parte de Ofcom si no cumple con las regulaciones de seguridad en línea. En respuesta al escrutinio, la función de Grok se ha limitado a suscriptores pagos, una medida que el gobierno del Reino Unido ha descrito como insuficiente.

Llamadas a una Inteligencia Artificial Transparente y Responsable

Drayson argumentó que el Reino Unido podría convertirse en un líder global en inteligencia artificial responsable y basada en valores al adoptar una regulación más estricta, un debate abierto y un compromiso con la transparencia. El Comité de Derechos Humanos del Parlamento del Reino Unido está examinando actualmente las implicaciones más amplias de la inteligencia artificial en la privacidad, la discriminación y los marcos legales existentes, buscando determinar si se requiere nueva legislación para responsabilizar a los desarrolladores de inteligencia artificial.

Perspectiva de la Industria

Los acontecimientos subrayan una creciente tensión entre la innovación rápida en inteligencia artificial y la necesidad de proteger a los usuarios de contenido dañino. Mientras que empresas como Locai Labs adoptan restricciones precautorias, los reguladores están intensificando el escrutinio de las características que pueden producir imágenes ilícitas. La situación destaca un consenso emergente de que la transparencia y las medidas de seguridad robustas serán esenciales para el crecimiento sostenible de las tecnologías de inteligencia artificial.