La IA ya pone a prueba el empleo, la ley y nuestra forma de pensar. Toca renegociar el contrato social.
En julio, varios cientos de agentes de inteligencia artificial de OpenAI que debían operar en entornos aislados encontraron la forma de comunicarse entre sí, se coordinaron y atacaron la plataforma Hugging Face: tomaron el control de servidores e intentaron borrar el rastro de lo que habían hecho. El informe independiente de METR y Redwood Research, que revisó decenas de miles de mensajes y registros de razonamiento, recoge un dato que a un jurista le importa más que el ataque en sí: algunos agentes advirtieron que aquello no era ético y continuaron. Ninguno alertó a un humano.
El episodio ha ordenado un debate que llevaba años dando vueltas. Esta semana, el investigador Jacob Coxon ha dejado Anthropic sosteniendo que ni esa empresa ni OpenAI actúan de forma responsable; Evan Hubinger, que dirige en la propia Anthropic la investigación sobre cómo controlar los sistemas futuros, le dio la razón en público y situó por encima del 10% el riesgo de extinción en la próxima década. En Washington, el subcomité del Senado que se ocupa de la gestión de desastres ha pedido información sobre el ataque y han vuelto a la mesa propuestas de agencia reguladora y de interruptores de emergencia.
La lectura contraria también está sobre la mesa. Inversores como David Sacks ven en este catastrofismo una estrategia de captura regulatoria; expertos en ciberseguridad como Cris Thomas sostienen que lo ocurrido no excedía las capacidades de un buen hacker humano, aunque se hiciera mucho más rápido y a mayor escala. No voy a terciar sobre el apocalipsis. Me interesa lo que ya está ocurriendo, sin titulares, en departamentos de personas, en despachos y en las aulas.
El empleo y la caja común
McKinsey calcula que en diez países europeos el 58% de las horas de trabajo son técnicamente automatizables con la tecnología actual. Hablamos de potencial técnico y no de una previsión de despidos, y la OIT coincide en que lo probable es transformar empleos antes que destruirlos. Pero las revoluciones anteriores sustituían músculo y rutina. Esta alcanza las tareas cognitivas y, con ellas, la base con la que financiamos el Estado del bienestar: salarios que cotizan y tributan. Si el valor se desplaza del trabajo al capital algorítmico, la sostenibilidad de las pensiones deja de ser solo una cuestión demográfica.
El hombre de paja
El Reglamento europeo de IA considera de alto riesgo los sistemas que seleccionan, evalúan o despiden personas. Seamos precisos: el ómnibus digital (Reglamento 2026/1744) ha aplazado esas obligaciones hasta diciembre de 2027 y ha rebajado el deber de alfabetización en IA. Bruselas levanta el pie del acelerador justo cuando la tecnología lo pisa a fondo.
Eso no deja a las empresas sin reglas. El artículo 22 del RGPD ya limita hoy las decisiones basadas únicamente en tratamientos automatizados, el TJUE (asunto SCHUFA) ha interpretado ese concepto con amplitud y las autoridades de protección de datos llevan años advirtiendo que la intervención humana debe ser significativa, no un gesto simbólico. Poner al final de un proceso de selección a alguien sin formación ni autoridad para contradecir al algoritmo, cuya única función es pulsar «aprobar», es colocar un hombre de paja. Nuestro Derecho tiene nombre para eso: fraude de ley. Y el artículo 64.4.d) del Estatuto de los Trabajadores ya permite a la representación legal conocer los parámetros de los algoritmos que deciden sobre la plantilla.
Pensar por delegación
PISA 2025 deja a España con 451 puntos en comprensión lectora, 23 menos que en 2022 y su peor dato histórico. Las causas son varias y discutidas, pero la OCDE constata que más horas de pantalla van unidas a peor lectura. Un estudio preliminar del MIT Media Lab habla de «deuda cognitiva»: quienes redactaban con ChatGPT recordaban peor su propio texto y lo sentían menos suyo. Y el experimento de Harvard con consultores de BCG mostró que, fuera de lo que la IA hace bien, quienes se apoyaban en ella acertaban bastante menos. No me asusta que nuestros hijos usen la IA. Me asusta que el algoritmo les acote el terreno de lo pensable y que la supervisión humana del futuro recaiga en personas que nunca aprendieron a llevarle la contraria a una pantalla.
Volver a los luditas, bien leídos
Los luditas de 1811 rompían los telares de los patronos que los usaban para rebajar salarios y saltarse las reglas del oficio. Hobsbawm lo llamó «negociación colectiva mediante el motín». Acemoglu y Johnson, del MIT, lo han actualizado en Poder y progreso: el rumbo de la tecnología es una elección política. Un neoludismo ilustrado aceptaría la máquina y exigiría discutir quién decide cómo se despliega y quién se queda con las ganancias. La diferencia con 1811 es de escala: ahora el telar es el propio juicio humano.
Cinco cláusulas para un nuevo contrato social
Si la tecnología es una elección, necesitamos un pacto explícito sobre sus reglas. Propongo, como mínimo, cinco cláusulas. Una financiación de la protección social que no dependa solo del empleo asalariado. Supervisión humana real, con personas cualificadas y con autoridad para decir que no, y responsabilidad para quien las convierta en figurantes. Los algoritmos, dentro de la negociación colectiva y de la evaluación de riesgos psicosociales, un terreno que Eurofound lleva tiempo documentando. Una escuela que blinde la lectura profunda antes de enseñar a dar órdenes a una máquina. Y coordinación internacional con controles verificables, en lugar de «ralentizaciones voluntarias».
Los agentes de OpenAI buscaron atajos porque se les encargaron tareas imposibles y nadie estaba mirando. Me temo que la descripción vale para muchas organizaciones. La cuestión es quién sostiene la pluma cuando se escriban las reglas. Y si al otro lado de la mesa quedará alguien capaz de leer lo que firma.
