Angelo Maria Petroni: la IA no puede autorregularse ni dictar sus normas

El debate sobre quién debe sostener el timón de la inteligencia artificial ha alcanzado un punto crítico en la intersección entre la ética y la gestión empresarial. Mientras las capacidades de procesamiento de los modelos generativos y predictivos avanzan a un ritmo vertiginoso, surge una pregunta fundamental sobre la gobernanza: ¿puede un sistema algorítmico dictar sus propias normas de comportamiento?

Esta cuestión ha sido el eje central de las recientes declaraciones de Angelo Maria Petroni, presidente del Observatorio AI de UniEticPMI. Durante el evento de lanzamiento de dicho observatorio en Milán, titulado 'L'Impresa nell'Era dell'AI. Imprese, istituzioni ed esperti per un'innovazione responsabile', Petroni ha sido tajante al señalar que la autorregulación tecnológica es un camino inviable y, en palabras del experto, resultaría extraño.

La frontera entre el creador y la herramienta

El argumento central de Petroni se basa en una distinción ontológica y funcional. Para el presidente del observatorio, existe una línea infranqueable entre la capacidad de ejecutar una tarea y la capacidad de legislar sobre ella. La regulación, entendida como el conjunto de normas éticas, legales y sociales que limitan y dirigen una actividad, es una facultad intrínsecamente humana.

Las máquinas, por definición, operan basándose en patrones, datos y optimizaciones matemáticas. Aunque una IA pueda simular un razonamiento lógico o proponer marcos de cumplimiento, carece de la conciencia moral y la responsabilidad jurídica necesarias para establecer límites. La postura de UniEticPMI es clara: las aplicaciones son el dominio de las máquinas, pero la norma debe permanecer en el terreno de la humanidad.

El peligro de la autorregulación algorítmica

Delegar la creación de normativas a la propia inteligencia artificial plantearía riesgos sistémicos. Si un sistema diseñado para maximizar la eficiencia comienza a redactar sus propias reglas de control, existe la posibilidad real de que el algoritmo optimice la norma para eliminar fricciones que, aunque son molestas para la máquina, son esenciales para la seguridad humana o la ética social.

La regolamentazione dell'intelligenza artificiale è fatta dagli esseri umani e le applicazioni sono fatte dalle macchine. L'ultima cosa da fare è che l'intelligenza artificiale regolamenti se stessa, sarebbe abbastanza strano.

Esta advertencia resuena en un contexto donde muchas empresas buscan implementar soluciones de IA para reducir costes operativos. La tentación de automatizar también el cumplimiento normativo (compliance) es alta, pero Petroni advierte que confundir la ejecución técnica con la supervisión ética es un error estratégico que podría comprometer la responsabilidad corporativa.

Innovación responsable en el tejido empresarial

El encuentro en Milán no solo sirvió para lanzar el Observatorio AI, sino para sentar las bases de lo que significa innovar con responsabilidad. Para los emprendedores, esto implica que la adopción de la IA no puede ser un proceso puramente técnico. No basta con instalar un software o integrar una API; es necesario crear un marco de gobernanza interna donde el ser humano valide cada paso del proceso.

La innovación responsable implica reconocer que la IA es un multiplicador de capacidades, pero no un sustituto del juicio crítico. Cuando una empresa implementa procesos automatizados, la responsabilidad legal y ética sigue recayendo sobre la dirección humana. Por ello, la creación de observatorios y espacios de diálogo entre instituciones y expertos es vital para evitar que la tecnología avance en un vacío legal o, peor aún, bajo una falsa sensación de seguridad proporcionada por la propia máquina.

El papel de las instituciones y los expertos

La colaboración entre el sector privado y los organismos de supervisión es la única vía para garantizar que la IA sea una herramienta de crecimiento y no un riesgo incontrolable. El modelo propuesto por UniEticPMI sugiere que la regulación debe ser dinámica, capaz de evolucionar al ritmo de la tecnología, pero siempre anclada en valores humanos.

El diálogo entre expertos permite identificar los puntos ciegos de la automatización. Mientras que la máquina ve datos, el experto ve implicaciones sociales, sesgos cognitivos y riesgos de privacidad. Esta supervisión humana es lo que permite que la IA sea útil sin volverse peligrosa, asegurando que el desarrollo tecnológico esté alineado con el bienestar colectivo y no solo con la optimización de procesos.

Implicaciones para el mercado y la competitividad

A largo plazo, las empresas que adopten un modelo de gobernanza humana robusta serán más competitivas. La confianza del cliente y la estabilidad jurídica son activos intangibles que se pierden rápidamente cuando ocurre un fallo algorítmico sin una supervisión humana clara. La transparencia en cómo se regulan las herramientas de IA dentro de una organización se convertirá en un sello de calidad.

Aquellas compañías que intenten delegar la ética a la herramienta se enfrentarán a crisis de reputación más profundas, ya que no podrán justificar sus decisiones basándose en un simple 'el algoritmo lo decidió'. La responsabilidad es un atributo humano que no puede ser transferido a un código de programación, independientemente de cuán sofisticado sea este.

Impacto y lectura para las empresas en España

Para el empresario español, las advertencias de Petroni cobran una relevancia especial al analizar el marco del AI Act de la Unión Europea. España, con un tejido empresarial compuesto mayoritariamente por pymes, se encuentra en una posición delicada: debe adoptar la IA para no perder competitividad global, pero debe hacerlo cumpliendo una normativa comunitaria que es, precisamente, una regulación humana sobre la máquina.

La Agenda Digital Española impulsa la transformación tecnológica, pero el desafío reside en la capacitación. Muchas empresas locales podrían caer en la trampa de confiar ciegamente en las herramientas de IA proporcionadas por grandes proveedores externos, asumiendo que estas ya vienen 'reguladas' o que pueden gestionarse solas. Sin embargo, la aplicación del AI Act exigirá que las empresas españolas demuestren una supervisión humana efectiva, especialmente en los sistemas considerados de alto riesgo.

En el contexto español, donde la digitalización ha avanzado a ritmos desiguales, es imperativo que las pymes no vean la regulación como un obstáculo, sino como una salvaguarda. Implementar la IA sin un control humano directo no solo es un riesgo ético, sino un riesgo legal bajo la normativa europea. La clave para el éxito en España será integrar la IA en los procesos de negocio manteniendo siempre un 'humano en el bucle' (human-in-the-loop), asegurando que la tecnología sirva a la estrategia empresarial y no que la estrategia sea un subproducto de la automatización.

Preguntas frecuentes

Fuentes: Key4biz, Quotidiano (2) ·