"¿Quién educa a la inteligencia artificial?"

Imaginemos por un momento a un niño superdotado de esos que aprenden idiomas con extraordinaria facilidad y hacen cálculos imposibles. Ahora, imaginemos que le damos todos los instrumentos necesarios para crear lo que se le ocurra. El niño tiene una capacidad enorme para desarrollar elementos constructivos y destructivos, pero aún no dispone de un marco ético y moral que le ofrezca las limitaciones necesarias para proteger su propia supervivencia y la de los demás.

Esa es la IA a la que se refieren los analistas que advierten de la magnitud del peligro que supone un avance tecnológico tan acelerado. El elemento central no es si el niño debe o no existir, sino cómo debe coexistir con el resto para que no se haga daño a sí mismo ni a los demás. La competencia entre los diferentes desarrolladores de IA no debería impedir que se establezcan unos principios comunes capaces de evitar que superinteligencias acaben atacándose entre sí o a la humanidad.

Para lograr ese propósito deberíamos preguntarnos qué herramientas hemos creado para impedir que los seres humanos se maten, se sometan o abusen unos de otros y cuáles de ellas han resultado eficaces. En efecto, son pocas y, en este preciso momento, resultan muy poco fiables. El derecho internacional ha intentado establecer límites frente al ejercicio arbitrario del poder: normas contra el genocidio, invasiones, explotación de personas o expolio de los recursos de países enteros.

Un sistema que, a la vista de su eficacia actual, claramente debería reformularse. Coincido en que un avance tan rápido de la IA, en un momento en que las instituciones internacionales son tan débiles, puede desembocar en una catástrofe. Pero también constituye una oportunidad para reformar las herramientas de control de daños y fomentar una solidaridad que no se base exclusivamente en la competencia.

Si lo único que impide a la IA destruir a la humanidad es su falta de voluntad, eso es precisamente lo que falla en el ser humano para impedírselo.