🎧 ESCUCHAR EL ARTÍCULO I 13 min.
Todo empezó con Jacob Coxon, el joven exempleado de Anthropic que anunció su dimisión y se despidió con una advertencia inquietante: la IA podría matarnos a todos antes de que termine la década. Su antiguo jefe en Anthropic, Evan Hubinger, no tardó en cuantificar ese riesgo: más de un 10% de probabilidades, dijo. Imposible no recordar la anécdota de Josep Pla -que contaba Savater- cuando alguien le anunció que al día siguiente habría un eclipse a las tres y Pla respondió: “Ya serán las tres y cuarto”.
Al día siguiente, Anthropic alertó de posibles intentos de usar su IA generativa para desarrollar armas biológicas. Y en menos de cuarenta y ocho horas, su fundador, Dario Amodei, expresó su temor ante una IA tan avanzada que pudiéramos perder el control sobre ella y que llegara a apoderarse de internet y pidió ralentizar -no detener- su desarrollo.
Lo llamativo es que esta vez no se quedó solo en Anthropic. Sam Altman, consejero delegado de OpenAI, y Elon Musk, fundador de xAI, se sumaron al llamamiento de Amodei para desacelerar el desarrollo de los modelos más avanzados. De pronto, los máximos responsables de algunas de las compañías que compiten por llevar el desarrollo de la IA hasta el límite de sus capacidades, parecían coincidir en un cambio respecto de lo que venían defendiendo: la carrera por construir máquinas cada vez más poderosas podía estar avanzando más deprisa que nuestra capacidad para mantenerlas bajo control.
Todo indicaba que esa estrategia que se conoce en el mundo de la comunicación como “inundar la zona” se repetía una vez más: se dispara el volumen de información, de declaraciones inquietantes y de polémicas hiperbólicas con el fin de saturar la atención pública, de manera que resulte difícil distinguir lo importante de lo secundario. Al final, el debate acumula tantas aristas que una buena parte de la opinión pública, perdida en esa amalgama de informaciones, se ve incapaz de discernir qué merece crédito y qué no. La gente se rinde y acaba por no creer en nada.
Y como era de esperar, enseguida la realidad se perdía en las redes entre infundios y especulaciones morbosas. Para no terminar con la capacidad de atención desbordada frente a ese caudal incesante de información y, sobre todo, de desinformación, lo que procede es tomar cierta distancia. Una vez protegidos del torrente de declaraciones, advertencias y polémicas, quizás lo que conviene es detenerse en los hechos.
Lo primero que llama la atención es que esos mismos que ahora reclaman contención, cautela y vigilancia sobre el desarrollo de la inteligencia artificial, meses atrás se congregaron en actitud de adulación en torno a Donald Trump durante su toma de posesión, es decir, arroparon sin complejos a un mandatario que acumula uno de los historiales más ignominioso en materia de derechos humanos, garantías democráticas, derecho internacional, derechos civiles, libertad de expresión, inmigración, discapacidad, género y justicia penal. Respaldaron a una persona que ha destacado por su empecinamiento en el ensañamiento de los más vulnerables. La presencia de los magnates de la tecnología en aquel acto constituye, pues, toda una declaración de intenciones.
A este hecho, cargado de significado y que invita cuando menos a la sospecha sobre la buena voluntad de quienes ahora se presentan como guardianes frente a los peligros de la inteligencia artificial, hemos de añadir las continuas declaraciones de una buena parte de estos millonarios en favor de un marco regulatorio lo menos restrictivo posible para las herramientas que comercializan. Resulta llamativo que quienes tanto se llenan la boca con la defensa del liberalismo más feroz parezcan encontrar bastante menos sagrado el derecho a la propiedad cuando es el trabajo ajeno que necesitan para alimentar sus máquinas.
Para su entrenamiento, los modelos de IA han ingerido sin permiso cantidades ingentes de textos, libros, imágenes, artículos, código y otros materiales protegidos por derechos de autor. Autores y editores han llevado a varias de estas empresas ante los tribunales. El resultado es una batalla jurídica de dimensiones enormes sobre una cuestión bastante elemental: si una obra pertenece a alguien, ¿puede una compañía utilizarla para construir un producto multimillonario sin pedir permiso ni pagar por ella?
Algo semejante ocurre con los datos personales. Durante años, las grandes plataformas han construido buena parte de su poder económico sobre la recopilación y el tratamiento masivo de información de sus usuarios. En el caso de Meta, por ejemplo, las prácticas relacionadas con los datos han dado lugar a demandas y acuerdos millonarios.
Y cuando la regulación amenaza con poner límites a aquello que constituye la materia prima de su negocio, se columpian entre la paradoja y la hipocresía, y retuercen el lenguaje a su favor sin sonrojo; para eso cuentan con un equipo de asesores y abogados capaces de sacar agua de las piedras. La libertad deja de ser un principio abstracto y se convierte en libertad para innovar, libertad para entrenar modelos, libertad para utilizar los datos y libertad para competir. Y la libertad de expresión permite inyectar bulos, tergiversar la realidad, empujarla hacia planteamientos neonazis, alimentar el odio y hacer llegar a los niños contenidos que ningún adulto sensato pondría delante de ellos. El problema es que las libertades ajenas -la del autor sobre su obra, la del ciudadano sobre sus datos, la del usuario sobre su intimidad- también forman parte de ese mismo liberalismo que dicen defender.
El filósofo y matemático Blaise Pascal lo expresó así: “El hombre no es ni ángel ni bestia y el problema es que quien quiere hacer de ángel hace de bestia”. Tal vez los jerarcas de la tecnología ostenten méritos suficientes para aplicarles la duda: ¿son ángeles o son demonios? Lo que importa es lo que hacen, el contexto en que lo hacen y, sobre todo, la mirada con la que interpretamos sus actos. De ahí la necesidad de aprender a leerlos filosóficamente: ¿qué hay detrás de estas iniciativas?, ¿qué valores transmiten?, ¿qué concepción del mundo llevan implícita? Y, sobre todo, con estos últimos llamamientos a la contención ¿nos están mostrando la realidad o una caricatura interesada de ella? ¿Acaso estamos ante una jugada de distracción para esquivar una regulación de verdad y sustituirla por un simulacro regulatorio en el que el regulado sea también juez y parte?
Esther Paniagua, periodista y analista tecnológica, autora de Manual de defensa algorítmica, nos da una pista al respecto en EL PAÍS. Viene a decir que ralentizar el desarrollo puede ofrecer a las compañías una excusa para justificar ante sus inversores que la llamada inteligencia artificial general que han prometido no llegará tan pronto como habían anunciado. También puede servirles para controlar el ritmo y la dirección de la regulación tecnológica y presentarse como interlocutores imprescindibles a la hora de decidir cómo debe regularse aquello que ellos mismos desarrollan. Y, de paso, podría convertirse en una forma de dejar fuera de juego a la competencia: reservarse el desarrollo de la llamada "IA de frontera", con aspiraciones de superinteligencia, dentro de unos límites marcados por ellos mismos.
Hemos caído de nuevo en su trampa, entretenidos en las especulaciones sobre lo que podría “llegar a hacer” la IA. Parece que lo que dijo el joven exempleado de Anthropic nos acaloró y, sin hacernos preguntas sobre sus manifestaciones, dimos por hecho que no eran barbaridades; con la ultraviralidad sobran las evidencias. Ese hacernos pensar en la IA como algo capaz de actuar por sí mismo tiene un punto antropomórfico que se ha ido colando en el imaginario colectivo, potenciado por la mitología literaria y cinematográfica y también por el lenguaje con el que se fueron explicando sus avances y los caminos que se abrían en el horizonte de aquellas primeras máquinas a las que apellidaron “pensantes”, conocidas posteriormente como inteligencias artificiales. Y es que, para explicar ciertos avances, resulta casi inevitable recurrir a metáforas que aluden a potencialidades humanas: hablamos de máquinas que “aprenden”, “recuerdan”, “comprenden”, “razonan” o incluso “crean”.
Dejemos a un lado el morbo, que tenerlo lo tiene, y volvamos a los hechos, a lo que hay detrás de estos llamamientos a la contención y a la cuestión que de verdad debería ocuparnos: la regulación. Porque hay algo que conviene recordar antes de dejarnos arrastrar por el relato de máquinas que un día podrían escapar de nuestro control: regular no es frenar. Mucho menos significa estar contra el progreso.
La regulación ha acompañado prácticamente todos los grandes avances que han transformado nuestras sociedades. Allí donde una tecnología puede afectar a la salud, la seguridad, la intimidad, el medio ambiente, los derechos laborales o las libertades públicas, hemos establecido normas para determinar qué puede hacerse, en qué condiciones, quién responde cuando algo sale mal y qué controles deben existir antes y después de poner un producto en manos de los ciudadanos. No porque desconfiemos del progreso, sino precisamente porque sabemos lo que está en juego cuando el progreso adquiere capacidad para afectar a millones de personas.
No aceptaríamos que un medicamento se comercializara sin haber demostrado antes unas condiciones mínimas de seguridad. Tampoco que un avión pudiera ponerse en servicio sin controles, que un edificio se levantara sin cumplir unas normas de seguridad o que un alimento llegara al mercado sin garantías sanitarias. No consideramos esos controles obstáculos al progreso. Son, justamente, la manera que hemos encontrado para que el progreso no se convierta en una sucesión de experimentos realizados a costa de quienes los padecen.
En todo el proceso que rodea a la inteligencia artificial (tanto en su creación como en los objetivos que persigue y en las posibilidades de aplicación y uso) no habría que ser diferente; deberían regir los principios que aplicamos a cualquier tecnología que puede afectar seriamente a nuestras vidas. Antes de ponerla en circulación, habrá que analizar rigurosamente los riesgos que entraña y someterla a pruebas suficientes. Y si los tecnócratas no lo entienden, pues que beban agua. Si una herramienta de IA interviene en decisiones que afectan a las personas, tendremos que conocer sus entrañas, qué hay detrás de su funcionamiento; habrá que poder saber cómo se ha llegado a una determinada decisión y quién puede revisarla o corregirla. Y con ella no desaparece la responsabilidad de los tecnócratas: también deciden hasta dónde dejan de decidir ellos.
Como escribió Sartre, estamos condenados a ser libres; incluso cuando dejamos que una máquina decida por nosotros, hemos decidido dejarla decidir. Y tendrá que estar claro quién responde cuando algo falla, qué derechos deben quedar protegidos y qué mecanismos existen para detectar y corregir los problemas que aparezcan después. Y cada una de estas fases deben someterse a debates multidisciplinares que incluyan la dimensión ética. No son exigencias extraordinarias: son las reglas elementales con las que una sociedad intenta asegurarse de que una tecnología poderosa puede ser utilizada sin convertir sus riesgos en problemas de todos.
Y hay algo más elemental todavía: quien obtiene el beneficio de una tecnología no puede pretender que sea la sociedad entera quien asuma sus riesgos. No aceptaríamos que un coche saliera a la carretera sin haber superado las pruebas de homologación, ni que un avión pudiera ponerse en servicio sin controles. ¿Por qué habría de ser diferente con la IA? Si un sistema no puede ofrecer unas garantías mínimas de seguridad, la pregunta no debería ser cómo convencer a la sociedad de que confíe en él, sino qué condiciones debe cumplir para poder utilizarse.
Ese es, en definitiva, el sentido de la regulación democrática. No consiste en decir “no” a la innovación, sino en establecer las condiciones bajo las que puede desarrollarse: qué riesgos son aceptables, quién responde cuando algo falla y qué derechos no pueden quedar subordinados a la velocidad de la innovación ni al beneficio económico ni al regocijo narcisista de cuatro.
