La inteligencia artificial (IA) generativa es una rama de la IA que se dedica a crear contenido nuevo y original a partir de datos existentes. Por ejemplo, una IA generativa puede producir imágenes, textos, vídeos o sonidos que no existían antes.
Una de las aplicaciones más populares y controvertidas de la IA generativa son los deepfakes, que son vídeos falsos que muestran a personas reales haciendo o diciendo cosas que nunca hicieron o dijeron. Los deepfakes se crean mediante algoritmos de aprendizaje profundo que superponen el rostro de una persona en el de otra.
Los deepfakes pueden tener usos legítimos y creativos, como el entretenimiento, la educación o la investigación. Pero también pueden suponer un riesgo para la privacidad, la seguridad y la democracia si se usan con fines maliciosos o engañosos.
Para evitar estos peligros y promover un uso responsable de la IA generativa, un grupo de 10 empresas e instituciones ha firmado unas pautas voluntarias elaboradas por el Partnership on AI (PAI), una organización sin ánimo de lucro dedicada a la investigación ética sobre la IA.
Entre las empresas e instituciones que se han comprometido con estas pautas están OpenAI, TikTok, Adobe, la BBC y Bumble. Las pautas incluyen recomendaciones como:
- Ser transparentes sobre lo que la IA generativa puede y no puede hacer
- Informar a los usuarios cuando interactúen con contenido generado por IA
- Investigar formas de detectar y etiquetar el contenido sintético
- Respetar los derechos de autor y la propiedad intelectual
- Prevenir los daños potenciales relacionados con el fraude, el acoso o la desinformación
Estas pautas son un primer paso para fomentar una cultura de confianza y transparencia en torno a la IA generativa. Sin embargo, algunos expertos dudan de su efectividad y reclaman medidas más fuertes y obligatorias para regular esta tecnología.
Además, las pautas no abordan algunos aspectos importantes como el sesgo o la toxicidad que pueden tener los modelos o los datos de entrenamiento de la IA generativa. Estos aspectos pueden causar daños sociales o discriminatorios si no se tienen en cuenta.
Por lo tanto, es necesario seguir investigando y debatiendo sobre cómo crear, liberar y compartir IAs generativas de forma ética y responsable.
Fuentes:
- How to create, release and share generative AI responsibly | MIT Technology Review https://www.technologyreview.com/2022/12/14/1037700/how-to-create-release-and-share-generative-ai-responsibly/
- Deepfake – Wikipedia https://es.wikipedia.org/wiki/Deepfake
- Qué son los «deepfakes» y por qué se están convirtiendo en el nuevo … https://www.bbc.com/mundo/noticias-43975322
- ¿Qué es y en qué consiste Deepfake? | Computer Hoy https://computerhoy.com/reportajes/tecnologia/consiste-deepfake-446355