Oliver Nabani

Todo es fácil si se explica de forma simple

Liberar y compartir IAs

La inteligencia artificial (IA) generativa es una rama de la IA que se dedica a crear contenido nuevo y original a partir de datos existentes. Por ejemplo, una IA generativa puede producir imágenes, textos, vídeos o sonidos que no existían antes.

Una de las aplicaciones más populares y controvertidas de la IA generativa son los deepfakes, que son vídeos falsos que muestran a personas reales haciendo o diciendo cosas que nunca hicieron o dijeron. Los deepfakes se crean mediante algoritmos de aprendizaje profundo que superponen el rostro de una persona en el de otra.

Los deepfakes pueden tener usos legítimos y creativos, como el entretenimiento, la educación o la investigación. Pero también pueden suponer un riesgo para la privacidad, la seguridad y la democracia si se usan con fines maliciosos o engañosos.

Para evitar estos peligros y promover un uso responsable de la IA generativa, un grupo de 10 empresas e instituciones ha firmado unas pautas voluntarias elaboradas por el Partnership on AI (PAI), una organización sin ánimo de lucro dedicada a la investigación ética sobre la IA.

Entre las empresas e instituciones que se han comprometido con estas pautas están OpenAI, TikTok, Adobe, la BBC y Bumble. Las pautas incluyen recomendaciones como:

  • Ser transparentes sobre lo que la IA generativa puede y no puede hacer
  • Informar a los usuarios cuando interactúen con contenido generado por IA
  • Investigar formas de detectar y etiquetar el contenido sintético
  • Respetar los derechos de autor y la propiedad intelectual
  • Prevenir los daños potenciales relacionados con el fraude, el acoso o la desinformación

Estas pautas son un primer paso para fomentar una cultura de confianza y transparencia en torno a la IA generativa. Sin embargo, algunos expertos dudan de su efectividad y reclaman medidas más fuertes y obligatorias para regular esta tecnología.

Además, las pautas no abordan algunos aspectos importantes como el sesgo o la toxicidad que pueden tener los modelos o los datos de entrenamiento de la IA generativa. Estos aspectos pueden causar daños sociales o discriminatorios si no se tienen en cuenta.

Por lo tanto, es necesario seguir investigando y debatiendo sobre cómo crear, liberar y compartir IAs generativas de forma ética y responsable.


Fuentes: