IA: ¿Quién Paga los Daños? Expertos Mundiales Lideran Debate sobre Rendición de Cuentas

La cuestión de la responsabilidad legal cuando la Inteligencia Artificial (IA) causa daño a las personas ha escalado a la cima de la agenda global. Expertos de todo el mundo se han congregado en Ginebra, Suiza, para abordar este tema crucial, un debate que fue central en el segundo día de la primera cumbre dedicada a la rendición de cuentas en IA, celebrada del 6 al 10 de julio de 2026. Este encuentro subraya el desafío global de establecer responsabilidades claras en incidentes relacionados con esta tecnología en rápida evolución.

El Secretario General de las Naciones Unidas, António Guterres, ha enfatizado la urgencia de gobernar la IA antes de que sus beneficios sean “aplastados por sus riesgos”. Guterres advirtió que la IA avanza a un ritmo vertiginoso, haciendo imperativo controlarla para asegurar que sea justa, accesible y ética. En el marco del Diálogo Global sobre Gobernanza de la IA y la Cumbre Mundial AI for Good, el titular de la ONU insistió en la necesidad de que los seres humanos mantengan la capacidad de decisión y rendición de cuentas en todas las decisiones de alto impacto, como en la justicia, la atención sanitaria o la labor policial, donde las máquinas deben informar, pero no reemplazar la responsabilidad humana.

Una prioridad innegociable en la regulación de la IA es la protección de los derechos humanos. Guterres recalcó que la inteligencia artificial nunca debe menoscabar la dignidad humana ni reforzar la discriminación. Este llamamiento global busca que la IA sea democrática y que su desarrollo refleje las prioridades de todas las naciones, no solo de aquellas con sectores tecnológicamente más avanzados, permitiendo una representación equitativa y protegiendo a los países expuestos a consecuencias adversas sin voz en el diseño de las regulaciones.

El lado oscuro de la IA también fue un tema de discusión prominente. La presidenta de la Asamblea General, Annalena Baerbock, alertó sobre los “deepfakes”, señalando que, según informes, el 99% de ellos tienen contenido sexual y el 96% están dirigidos contra mujeres y niñas. En respuesta a estos riesgos, el Gobierno español, por ejemplo, ha regulado el uso de la IA frente a los ultrafalsos, tipificando como ilegítimo el uso no autorizado de la edición de voz o imagen de una persona con fines publicitarios o comerciales. La nueva normativa española busca proteger el honor, la intimidad y la propia imagen, y fija la edad de consentimiento para menores en 16 años, asegurando que ninguna actuación pueda ser contraria a su interés.

Además, un informe reciente del Future of Life Institute (FLI), una organización sin fines de lucro, evaluó a nueve de las principales empresas de IA a nivel mundial en seis categorías de seguridad. Los resultados revelaron que ninguna empresa recibió la calificación más alta de “A” en ninguna categoría, siendo Anthropic la mejor posicionada con un “C+”. El informe concluyó que la industria global está fallando en combatir amenazas “existenciales”, como el desarrollo de modelos que alcanzan un nivel de inteligencia similar al humano (AGI), y advirtió sobre el posible uso indebido de modelos para ciberataques o tareas dañinas para los seres humanos.

En el ámbito legal, el año 2026 se perfila como un período crucial. La Directiva 2024/2853 de la Comisión Europea sobre responsabilidad por daños causados por productos defectuosos, publicada en octubre de 2024, tiene prevista su aplicación en todos los Estados miembros a partir del 9 de diciembre de 2026. Esta normativa es clave para adaptar el marco regulatorio europeo a las peculiaridades de las tecnologías emergentes, incluyendo la IA. Asimismo, las obligaciones más exigentes del Reglamento Europeo de Inteligencia Artificial (RIA) para sistemas calificados de alto riesgo entrarán en vigor a finales de 2026, estableciendo un régimen sancionador severo que puede alcanzar los 35 millones de euros o el 7% del volumen de negocio mundial del infractor. Esto convierte a la IA en un “vector estructural de riesgo penal corporativo” y obliga a las organizaciones a actualizar sus modelos de prevención. El fenómeno de la “Shadow IA”, donde empleados utilizan herramientas de IA sin conocimiento de sus empresas, como el caso de Samsung con ChatGPT, subraya la complejidad de la responsabilidad penal corporativa.

La financiación también fue un punto de debate. António Guterres destacó que la inversión privada en infraestructura de IA ronda los 500 billones de dólares, mientras que el apoyo público para fortalecer las capacidades es considerablemente menor. Por ello, anunció que presentará recomendaciones a la Asamblea General para la creación de un Fondo Mundial para la IA, destinado a fortalecer las capacidades de los países en desarrollo y asegurar que la brecha digital no se amplíe aún más.

Un precedente importante se ha sentado en Alemania, donde una decisión preliminar del Tribunal Regional de Múnich contra Google por sus “AI Overviews” ha cuestionado el estatus de los buscadores como meros intermediarios. Esta sentencia sugiere que cuando una inteligencia artificial fabrica una respuesta que antes no existía, la responsabilidad recae en la entidad detrás de la IA, no solo en las fuentes enlazadas. Este fallo es crucial, ya que apunta directamente contra la asimetría en la que las grandes tecnológicas capturan el valor cuando sus algoritmos funcionan y socializan el daño cuando fallan, abriendo una nueva era en la definición de la responsabilidad de la IA.

En resumen, la comunidad internacional y los expertos están inmersos en un esfuerzo urgente y multifacético para establecer un marco de gobernanza y rendición de cuentas para la inteligencia artificial. Desde las cumbres de la ONU hasta las nuevas directivas legales y los precedentes judiciales, el objetivo es garantizar que esta poderosa tecnología sirva a la humanidad de manera ética, segura y equitativa, definiendo claramente quién tiene la culpa cuando la IA causa daño y asegurando que exista una responsabilidad real.

Tecnología, Inteligencia Artificial, Rendición de Cuentas IA, Gobernanza IA, Responsabilidad Legal IA, Cumbre AI Ginebra,