La empresa estadounidense Anthropic se ha convertido en uno de los referentes mundiales en seguridad y alineación de inteligencia artificial gracias a su sistema Claude y a su enfoque denominado «Constitutional AI» (IA Constitucional), una metodología diseñada para entrenar modelos de lenguaje siguiendo principios explícitos de ética, seguridad y derechos humanos. La compañía sostiene que este enfoque permite desarrollar sistemas más transparentes, honestos y seguros para los usuarios.

Anthropic ha presentado durante años a Constitutional AI como una alternativa a los métodos tradicionales de entrenamiento basados en grandes volúmenes de retroalimentación humana, argumentando que la inteligencia artificial puede evaluar y corregir parte de su propio comportamiento utilizando una «constitución» compuesta por principios inspirados en documentos como la Declaración Universal de los Derechos Humanos.

El trabajo humano que sigue siendo indispensable

Sin embargo, especialistas en derechos digitales y economía del trabajo señalan que incluso los sistemas más avanzados de IA continúan dependiendo de una enorme cantidad de trabajo humano.

La industria de la inteligencia artificial requiere miles de trabajadores encargados de etiquetar datos, evaluar respuestas, clasificar contenido sensible y ayudar a entrenar mecanismos de seguridad que permitan a los modelos identificar discursos de odio, violencia, acoso y otros contenidos problemáticos. Diversas investigaciones académicas coinciden en que la supervisión humana sigue siendo una pieza fundamental del ecosistema de IA moderno.

El caso de Remotasks y las críticas en Kenia

Uno de los episodios que más cuestionamientos ha generado dentro de la industria involucra a Remotasks, una plataforma operada por Scale AI que empleó a miles de trabajadores remotos para realizar tareas de anotación y entrenamiento de datos.

Durante 2024, numerosos trabajadores kenianos denunciaron problemas relacionados con pagos, bloqueos de cuentas y falta de mecanismos efectivos de apelación. Posteriormente, Remotasks anunció el cierre de sus operaciones en Kenia, una decisión que dejó sin acceso a la plataforma a miles de trabajadores digitales que dependían de esos ingresos.

Aunque no existe evidencia pública de que Anthropic fuera responsable directa de esas decisiones laborales, diversos observadores han señalado que gran parte de la industria de IA —incluyendo empresas desarrolladoras de modelos avanzados— se beneficia indirectamente del trabajo realizado por redes globales de etiquetadores de datos contratados por terceros.

La crítica: ética para las máquinas, incertidumbre para los trabajadores

El aspecto más controvertido del debate no gira en torno a una acusación legal específica contra Anthropic, sino a una cuestión ética.

Mientras la empresa dedica importantes recursos a desarrollar sistemas capaces de comportarse de manera responsable, segura y alineada con principios humanitarios, críticos de la industria sostienen que todavía existe una brecha entre esos ideales y las condiciones que enfrentan muchos trabajadores que participan en la economía global de datos.

La crítica apunta a una aparente contradicción: construir modelos diseñados para respetar principios inspirados en los derechos humanos mientras parte de la infraestructura laboral que hace posible la inteligencia artificial continúa operando bajo esquemas de subcontratación que han sido cuestionados por organizaciones laborales y defensores de derechos digitales.

Un debate que alcanza a toda la industria

La discusión no se limita a Anthropic. Empresas como OpenAI, Google, Meta y otros desarrolladores de modelos de inteligencia artificial también enfrentan preguntas similares sobre la transparencia de sus cadenas de suministro de datos y las condiciones laborales de quienes participan en el entrenamiento de sistemas avanzados.

La creciente expansión de la inteligencia artificial ha puesto en el centro del debate una pregunta fundamental: ¿puede considerarse verdaderamente ética una IA si las personas que ayudan a construirla no cuentan con los mismos estándares de protección que la tecnología busca promover?

A medida que la industria avanza hacia sistemas cada vez más sofisticados, expertos consideran que la discusión sobre la ética de la inteligencia artificial ya no puede limitarse únicamente al comportamiento de los modelos, sino también a las condiciones humanas que hacen posible su existencia.