Mitos de las SA-IA (Parte 5): Hackeos, fallos de código y el fantasma de la responsabilidad objetiva incontrolable.

Al debatir la viabilidad de las Sociedades Automatizadas (SA-IA), surge un temor recurrente entre los juristas más tradicionales: el riesgo del algoritmo desbocado.

El argumento crítico sostiene que, si una sociedad opera de forma autónoma mediante software, cualquier fallo en las líneas de código, un error imprevisto en la ejecución de un contrato inteligente o un ataque cibernético externo (hackeo) generaría un escenario de daños masivos e imprevisibles bajo el paraguas de la responsabilidad objetiva del Código Civil y Comercial de la Nación (Art. 1757 CCCN). Se asume, de forma errónea, que el sistema de responsabilidad civil actual es incapaz de absorber estos fenómenos tecnológicos sin quebrar a las empresas o desproteger a las víctimas.

Esta postura denota un desconocimiento de la elasticidad de nuestras instituciones civiles y del propio funcionamiento técnico del software. El ordenamiento jurídico argentino no necesita ser refundado para regular los fallos de la inteligencia artificial; las reglas de la responsabilidad por riesgo ya prevén las respuestas para estos escenarios.

El software no es una «fuerza de la naturaleza» incontrolable.

El artículo 1757 del CCCN establece que toda persona responde por el daño causado por el riesgo o vicio de las cosas, o por las actividades que sean riesgosas por su naturaleza, por los medios empleados o por sus circunstancias. Quienes atacan a las SA-IA pretenden equiparar el funcionamiento de un algoritmo con una actividad ultra-riesgosa e imprevisible, como si el código fuera un elemento de la naturaleza dotado de voluntad propia que actúa fuera de todo control humano.

Esto es técnicamente incorrecto. Un algoritmo no opera en el vacío ni posee una autonomía mística. El software es el resultado directo de una arquitectura de diseño, una programación específica y una serie de parámetros de optimización determinados por seres humanos. Los errores de código («bugs») o los fallos de procesamiento no son misterios de la ciencia; son vicios o defectos de diseño perfectamente tipificables que activan las cadenas de responsabilidad ordinarias, obligando a quienes crearon, implementaron o se beneficiaron de dicha estructura a responder por los perjuicios directos que ocasionen.

Hackeos y la ruptura del nexo causal.

¿Qué ocurre en el caso de un ataque cibernético o un hackeo que altere el funcionamiento de la Sociedad Automatizada? El derecho de daños tradicional vuelve a ofrecer una solución nítida a través de las causas de exención de responsabilidad. Para que exista la obligación de reparar, debe haber un nexo causal entre la actividad de la sociedad y el daño sufrido.

Un hackeo ejecutado por un tercero ajeno a la organización, que quiebre los sistemas de seguridad de la empresa a pesar de que esta contaba con medidas de protección estándar, se encuadra perfectamente bajo la figura del «hecho del tercero por quien no se debe responder» o, según las circunstancias, como un supuesto de fuerza mayor (caso fortuito), rompiendo el nexo de causalidad. Al igual que una empresa analógica no responde civilmente si un criminal destruye sus instalaciones de forma imprevisible e inevitable, una Sociedad Automatizada no puede ser penalizada objetivamente por la intervención delictiva de un tercero si demostró la debida diligencia en la custodia de sus entornos digitales.

Auditoría de código y prevención como estándar legal.

Lejos de habilitar un sálvese quien pueda, la interacción entre el artículo 1757 del CCCN y las SA-IA eleva el estándar de la prevención del daño. Para mitigar la responsabilidad por riesgo, las Sociedades Automatizadas adoptan mecanismos de gobernanza técnica que las empresas tradicionales no poseen:

• La implementación de auditorías de código periódicas realizadas por firmas independientes que certifiquen la robustez de los contratos inteligentes antes de su despliegue en la red.

• El establecimiento de «kill switches» o protocolos de parada de emergencia que permiten congelar las operaciones de la sociedad si el algoritmo detecta una anomalía o un comportamiento fuera de los parámetros permitidos.

• La contratación de seguros de responsabilidad civil específicos para mitigar riesgos tecnológicos, un mercado en plena expansión global.

La responsabilidad objetiva no es un obstáculo insalvable para la innovación, sino el marco que obliga a los desarrolladores y empresarios a ser técnicamente excelentes. Las SA-IA no destruyen el régimen de daños de nuestro Código Civil y Comercial; por el contrario, demuestran que la precisión del código y la previsibilidad del derecho pueden convivir en perfecta armonía.

En el próximo artículo: Analizamos la crítica de la responsabilidad limitada de las sociedades automatizadas, la inoponibilidad de la personería jurídica (Art. 54 LSC / Art. 3 Proyecto) y el levantamiento del velo societario.