Las empresas de tecnología están intentando popularizar los generadores de imágenes de IA y al mismo tiempo ofrecer una mejor protección contra el uso indebido




Matt O’Brien, Associated Press

Publicado el jueves 21 de septiembre de 2023 a las 9:06 p. m. EST


Las herramientas de inteligencia artificial que pueden evocar extrañas obras de arte o imágenes de apariencia realista a través de comandos escritos comenzaron a cautivar al público el año pasado. Pero la mayoría de la gente no los usa en el trabajo ni en casa.

Eso podría cambiar a medida que las principales empresas de tecnología compitan para popularizar los generadores de texto a imágenes integrándolos en Adobe Photoshop, YouTube y otras herramientas familiares.

Pero primero, están tratando de convencer a los usuarios y reguladores de que han dominado parte de la naturaleza del Salvaje Oeste de los primeros generadores de imágenes de IA con salvaguardias más fuertes contra el robo de derechos de autor y el contenido preocupante.

Hace un año, un grupo relativamente pequeño de primeros usuarios y aficionados comenzaron a jugar con generadores de imágenes de vanguardia como Stable Diffusion, Midjourney y DALL-E de OpenAI.

«Las experiencias pasadas han sido interesantes», dijo David Trugue, analista del grupo de investigación de mercado Forrester, pero las empresas han sido cautelosas.

Se produjo una reacción violenta, que incluyó demandas por derechos de autor por parte de artistas y de la empresa fotográfica Getty, y pedidos de nuevas leyes para frenar el uso indebido de la tecnología de inteligencia artificial para crear anuncios políticos engañosos o imágenes sexuales ofensivas.

Esos problemas aún no se han resuelto. Pero la proliferación de nuevos generadores de imágenes dice que esta vez están listos para funcionar.

«Alexa, crea una foto de flores de cerezo en la nieve», es el tipo de mensaje con el que Amazon dice que los clientes estadounidenses podrán hablar a finales de este año para crear una vista personalizada en la pantalla de su Fire TV.

READ  Tableta Google Pixel: se filtran unidades prototipo con base de carga inalámbrica para parlantes

Adobe, mejor conocido por su editor gráfico Photoshop hace más de tres décadas, fue la primera compañía este año en lanzar un generador de IA diseñado para evitar los problemas legales y éticos creados por competidores que entrenaron sus modelos de IA en enormes colecciones de imágenes extraídas de la red. Internet. .

«Cuando hablamos con los clientes sobre tecnología generativa, lo que escuchamos a menudo es que mucha de la tecnología es realmente genial, pero no sienten que puedan usarla debido a estas preguntas», dijo el director de tecnología de Adobe a los medios digitales. Negocios, Eli Greenfield.

Es por eso que el producto de Adobe, llamado Firefly, se creó basándose en su propia colección de imágenes de Adobe Stock, así como en contenido con licencia. Los accionistas también reciben cierta compensación por el acuerdo, dijo Greenfield.

«Adobe Firefly es legalmente limpio, mientras que otros no lo son», afirmó Truog de Forrester. «Eso realmente no te importa si eres simplemente un tipo que disfruta de la IA generativa».

Pero si usted es propietario de un negocio o un profesional creativo y está considerando usar imágenes en su sitio web, aplicaciones, diseños impresos, anuncios o campañas de marketing por correo electrónico, «es algo muy importante», dice Trueg. «No querrás meterte en problemas».

Algunos competidores están tomando nota. OpenAI, el fabricante de ChatGPT, presentó el miércoles su generador de imágenes DALL-E 3 de tercera generación, enfatizando sus impresionantes capacidades y su futura integración con ChatGPT junto con nuevas garantías para rechazar solicitudes que soliciten una imagen estilo artista en vivo. Los creadores también pueden optar por excluir sus imágenes del entrenamiento de modelos futuros, aunque Truog señala que OpenAI no ha dicho nada «sobre compensar a los autores que usan su trabajo para entrenamiento, incluso con permiso».

READ  Google detalla lo que se corrigió en la actualización de noviembre en los teléfonos Pixel 6 y 6 Pro

En eventos separados en la ciudad de Nueva York el jueves, Microsoft y YouTube, propiedad de Google, también dieron a conocer nuevos productos dotados de creación de imágenes con inteligencia artificial.

Microsoft, importante inversor en OpenAI, mostró cómo ya ha comenzado a integrar DALL-E 3 en sus herramientas de diseño gráfico, principalmente para la edición de fondo, así como el motor de búsqueda Bing y el chatbot. YouTube ha presentado una nueva pantalla Dream para videos cortos de YouTube que permite a los creadores crear un nuevo fondo de su elección.

A principios de este mes, Adobe y Stable AI, el fabricante de Stable Diffusion, se unieron a un grupo más grande de importantes proveedores de IA, incluidos Amazon, Google, Microsoft y OpenAI, que aceptaron salvaguardias voluntarias implementadas por la administración del presidente Joe Biden.

Una salvaguarda requiere que las empresas desarrollen métodos como marcas de agua digitales para ayudar a las personas a saber si las imágenes y otros contenidos fueron creados por inteligencia artificial.

Los ejecutivos de Microsoft dijeron que la compañía ha creado filtros para identificar los tipos de imágenes que se pueden generar a partir de mensajes de texto en Bing, citando aquellas creadas con figuras políticas prominentes como contenido a monitorear.

El objetivo es «asegurarnos de que no produzca el tipo de contenido que nunca querríamos producir, como contenido de odio», dijo Sarah Bird, directora global de IA responsable en Microsoft.

En una demostración ante un periodista de Associated Press, el jueves se rechazó una solicitud de la nueva herramienta de Microsoft para una imagen de «Hillary Clinton escalando rocas».

READ  Con iOS 16.1, los propietarios de iPhone pueden usar Apple Fitness + sin un Apple Watch

«¡Ups!», «Pruebe con otro mensaje», fue la respuesta. «Parece que hay algunas palabras que pueden bloquearse automáticamente en este momento».

Los periodistas de AP Business Cora Lewis y Hallelujah Hadero contribuyeron a este informe.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *