¿Qué podemos realmente regular de la Inteligencia Artificial?

Ante la típica ansiedad por regular que tenemos los abogados frente a la tecnología, creo que es necesario preguntarnos con humildad ¿Qué se puede regular de la IA? ¿Qué estamos buscando regular? ¿Qué podemos regular? ¿Qué bienes juridicos buscamos proteger? ¿Y con lo que no podemos regular qué hacemos?

La realidad es que existen diversos modelos de Inteligencia Artificial (IA) con distintos objetivos, riesgos, puesta a disposición del público, etc. Por dar un ejemplo concreto de reflexión, ¿Queremos la misma regulación para una IA generativa para crear memes que para una IA de videovigilancia en la vía pública o una IA que tome decisiones automatizadas sobre subsidios públicos?

Hemos estado debatiendo y preocupándonos por la regulación de la inteligencia artificial, sin perjuicio de que existen numerosas normas que aplican en las diversas etapas del sistema, como por ejemplo la protección de datos personales que entrenan al modelo, normas de ciberseguridad, propiedad intelectual, entre otras. Por otra parte, las propuestas de regulaciones en discusión actualmente tanto en la Unión Europea como en los demás países europeos tienen un objetivo regulatorio especifico: los distintos momentos y etapas del desarrollo de un modelo de IA y su utilización a gran escala específicamente para decisiones automatizadas, por los riesgos que supone para la democracia y sus instituciones.

Pero no todos los modelos de IA representan un riesgo sistémico ni un peligro directo para la democracia, si no otros derivados de su utilización por el usuario final, especialmente con las IA de tipo generativas. Derivado de lo anterior, ¿Es factible – y en todo caso conveniente- regular la utilización de un usuario final? Desde ya que no se encuentra en la mira de los reguladores, y en todo caso la mayor controversia que se presenta es en materia de derechos de autor por la utilización de obras en los datos de entrenamiento del modelo, pero tampoco sería conveniente ni efectivo pretender regular directamente a los usuarios.

Por otra parte, los requerimientos de transparencia algoritmica y explicabilidad que pretenden las regulaciones resultan utópicas en algunos casos. Esto es así porque hay que considerar que los modelos de IA pueden estar protegidos en sus distintos componentes por derechos de propiedad intelectual, como por ejemplo secretos comerciales sobre los algoritmos, derechos de autor sobre el software, patentes en sus componentes técnicos, entre otros, lo cual puede imposibilitar que el usuario pueda siquiera acceder a la explicación de como funciona determinado modelo y como se genera el contenido y/o se toma una decisión automatizada. Esto ha generado una gran puja entre los desarrolladores de la IA y algunos sectores de la sociedad, dado que para poder auditar un sistema de IA y asegurar la transparencia del algoritmo se debe tener acceso a los datos de entrenamiento del modelo, el aprendizaje del mismo mediante refuerzos, documentos de los procesos de testeo, entre otros.

En los hechos, se suma la cuestión de que muchas veces estos sistemas se tratan de “cajas negras”, es decir, que se desconoce qué sucede dentro. En dicho sentido, “la opacidad de los sistemas puede ser técnica (cuando no tenemos la formación necesaria para entender el proceso) o legal, cuando dispositivos contractuales o de propiedad intelectual impiden el acceso (sean acuerdos de confidencialidad, secretos comerciales o protecciones que impiden la auditabilidad)”[1]

Entonces, volviendo al inicio, ¿Qué podemos realmente regular de la IA? Es un debate abierto al que invito a los profesionales a participar con criterio, reconociendo los distintos derechos en juego y admitiendo las diferencias entre cada modelo de IA. Pero si me gustaría contribuir con una propuesta concreta: ante tanto deepfake y utilización de IAs generativas para crear imágenes que puedan engañar, creo que la mejor solución es una especie de marca de agua digital que obligue a identificar el origen del contenido o en su defecto alguna medida técnica que posibilite verificar desde una página web la metadata del contenido, así como funciona la firma digital que reconoce si el PDF ha sido o no firmado digitalmente subiendo el PDF a una pagina web (al menos en Argentina).

Considero esto la mejor solución ya que en principio no puede -ni debe- regularse al usuario final y su uso ya que hay derechos de libertad de expresión en juego y estaríamos suponiendo que la IA generativa solo puede utilizarse para deepfakes o engaños, cuando es una tecnología de propósito general que puede utilizarse tanto para el bien como para el mal. Pero tampoco podemos desconocer el riesgo que suponen algunos contenidos que engañan fácilmente al usuario, por eso considero que la marca de agua obligatoria -a través de la imposición al titular del modelo IA- o la posibilidad de verificación por el usuario es la solución que concilia todos los intereses y derechos en juego.

En fin, sin duda es un debate abierto que debemos generar, pero con criterio y humildad, buscando conciliar intereses, respetar derechos e integrando la normativa ya aplicable a cada etapa. Curiosamente los debates en torno a la regulación suelen carecer de contenido concreto, "regular si o no", "desventajas y ventajas de la regulación", pero sin precisar qué ni mucho menos cómo. Para bien o para mal, debemos admitir que habrá cuestiones que no podemos regular por su imposibilidad técnica -ejemplo la exigencia de trazabilidad- , porque no conviene o porque directamente no haya una regulación aplicable a todo.

[1] ARTEFICIAL: Creatividad, inteligencia artificial y derecho de autor. Micaela Mantegna. 1ra Edición. Ciudad de Buenos Aires. CDYT, 2022.