UE obliga a los chatbots a decir que son máquinas desde este domingo
La medida también implica que los deepfakes portarán etiquetas visibles y la Comisión Europea estrena sus poderes de supervisión sobre los grandes modelos de IA, con multas de hasta 15 millones de euros.
-
UE obliga a los chatbots a decir que son máquinas desde este domingo
Ese momento en que un ciudadano escribe a un asistente virtual y no sabe si al otro lado hay una persona o un algoritmo quedó atrás desde este domingo.
La Unión Europea activó la primera fase de cumplimiento de su Ley de Inteligencia Artificial, el reglamento más ambicioso del mundo para poner coto a una tecnología que avanza más rápido que la capacidad de los legisladores para seguirle el paso.
A partir del 2 de agosto, los sistemas de IA generativa deberán revelar su condición de tales, y los contenidos manipulados o fabricados por máquinas portarán marcas que los hagan reconocibles a simple vista.
Esta fecha supone el pistoletazo de salida para el artículo 50 del Reglamento (UE) 2024/1689, el corazón de las obligaciones de transparencia que Bruselas ha diseñado para devolver algo de control al usuario. La norma exige que cualquier herramienta capaz de generar imágenes, vídeos, audios o textos incorpore etiquetas y marcas legibles por máquina.
El objetivo: que nadie confunda una fotografía real con una recreación sintética, ni una respuesta humana con la de un algoritmo.
Los conocidos como deepfakes, aquellos montajes hiperrealistas que han sembrado dudas en procesos electorales y han alimentado bulos virales, se llevan la peor parte.
Desde hoy, cualquier imagen, vídeo o audio que reproduzca a personas, objetos o eventos reales deberá llevar un aviso claro y visible.
La Comisión Europea ha diseñado incluso un conjunto de iconos estandarizados para que los desarrolladores puedan cumplir con este marcado sin excusas.
Los chatbots ya no podrán hacerse pasar por humanos
-
Con la nueva ley, los chatbots tendrán la obligación de informar al usuario que están interactuando con una inteligencia artificial.
Quien haya mantenido una conversación con un asistente digital sin saberlo habrá experimentado esa inquietud. La nueva regulación pone fin a esa ambigüedad.
Los chatbots, agentes conversacionales y avatares tendrán la obligación de informar al usuario, desde el primer intercambio, de que está interactuando con una inteligencia artificial y no con una persona.
La medida afecta tanto a los gigantes tecnológicos, como a cualquier empresa que despliegue estos sistemas para atender clientes o gestionar servicios públicos.
El texto generado por IA que aborde asuntos de interés público como política, procesos democráticos, justicia, salud pública o protección ambiental, por citar algunos ámbitos, tampoco se libra de la etiqueta.
La única excepción: que exista una revisión humana previa y una persona física o jurídica asuma la responsabilidad editorial de lo publicado. Una corrección ortográfica o gramatical no cuenta como tal revisión.
Bruselas estrena su oficina de IA con poderes inéditos
El 2 de agosto no solo trae obligaciones para las empresas. También convierte a la Oficina Europea de IA en un organismo con capacidad real de intervención.
Este departamento, apoyado por un panel científico de 60 expertos independientes y un asesor científico jefe, podrá requerir información a los proveedores de modelos de propósito general, acceder a sus sistemas para evaluarlos, ordenar medidas correctoras e incluso restringir su disponibilidad si detecta incumplimientos.
La supervisión se reparte en tres niveles. La Oficina de IA vigilará a los grandes proveedores y a los sistemas integrados en plataformas masivas.
Por su parte, las autoridades nacionales de cada Estado miembro se ocuparán del resto de las herramientas desplegadas en su territorio y el Supervisor Europeo de Protección de Datos hará lo propio con los sistemas que utilicen las propias instituciones comunitarias.
Al Mayadeen Español