Bing Image Creator, el robot de imágenes impulsado por inteligencia artificial de Microsoft, ha generado controversia recientemente al crear escenas perturbadoras e insensibles que involucran personajes de dibujos animados populares y lugares emblemáticos.
En una escena que parecía una terrible parodia del ataque terrorista del 11 de septiembre, los personajes favoritos de la televisión infantil, como Bob Esponja y Mickey Mouse, aparecieron volando aviones hacia rascacielos que se parecían a las Torres Gemelas en el centro de Manhattan. Estas imágenes impactantes, creadas y difundidas por 404 Media, han suscitado inquietudes sobre las limitaciones y los límites éticos del contenido generado por inteligencia artificial.
Microsoft ha implementado pautas estrictas para Bing Image Creator, incluidas restricciones sobre personas reales e imágenes violentas. Sin embargo, algunos mensajes seguían generando resultados inapropiados y ofensivos.
Microsoft ha tomado medidas para abordar la controversia en torno a las Torres Gemelas. Según informes, la empresa ha bloqueado mensajes específicos en las plataformas Bing Chat y Bing Image Generator que pueden llevar a la creación de contenido insensible o perturbador.
En una declaración enviada por correo electrónico a The Verge, Caitlin Roulston, directora de comunicaciones de Microsoft, expresó su compromiso de mejorar sus sistemas para evitar la generación de contenido dañino.
Como sucede con cualquier tecnología nueva, algunos intentan usarla de formas no previstas, por eso estamos implementando una variedad de medidas de seguridad y filtros para que Bing Image Creator sea una experiencia positiva y útil para los usuarios.
Mientras continúan los debates en torno al incidente, este sirve como recordatorio de las complejidades y los desafíos que rodean el desarrollo de las tecnologías de IA. Si bien las herramientas impulsadas por IA, como Bing Image Creator, tienen el potencial de ofrecer soluciones innovadoras y útiles, se deben mantener las medidas de seguridad y la ética adecuadas para garantizar un uso responsable y evitar que se produzcan incidentes de este tipo en el futuro.
Pcenter.es
Síguenos en YouTube: @PCenterES