Lo que la gobernanza de la IA puede Aprende del espíritu de descentralización de las criptomonedas

Los titanes de la tecnología estadounidense han pasado rápidamente de ser etiquetados por sus críticos como tecnoutopistas egoístas a ser los propagadores más vocales de una narrativa tecnodistópica.

Esta semana, una carta firmada por más de 350 personas, entre ellas el fundador de Microsoft, Bill Gates, el director ejecutivo de OpenAI, Sam Altman, y el ex científico de Google Geoffrey Hinton (a veces llamado el "Padrino de la IA"), contenía una única frase declarativa: "Mitigar el riesgo de extinción de la IA debería ser una prioridad global junto con otros riesgos a escala social, como las pandemias y la guerra nuclear".

Estás leyendoEl dinero reinventadoUn análisis semanal de los Eventos y tendencias tecnológicos, económicos y sociales que están redefiniendo nuestra relación con el dinero y transformando el sistema financiero global. Suscríbase para recibir el boletín completo. aquí.

Hace apenas dos meses, una apertura anteriorcarta Firmado por el CEO de Tesla y Twitter, ELON Musk, junto con otras 31.800 personas, pidió una pausa de seis meses en el desarrollo de la IA para permitir que la sociedad determine sus riesgos para la humanidad. En un artículo de opinión para TIME Esa misma semana, Eliezer Yudkowsky, considerado el fundador del campo de la inteligencia artificial general (IAG), declaró que se negaba a firmar esa carta porque no era suficiente. En cambio, exigió el cierre militar de los laboratorios de desarrollo de IA para evitar que surja un ser digital consciente que nos mate a todos.

A los líderes mundiales les resultará difícil ignorar las preocupaciones de estos reconocidos expertos. Ahora es ampliamente reconocido que existe una amenaza real para la existencia Human . La pregunta es: ¿cómo, exactamente, deberíamos mitigarla?

Como yo heescrito previamenteVeo un papel para la industria de las Cripto , trabajando con otras soluciones tecnológicas y en sintonía con una regulación rigurosa que fomente la innovación centrada en el ser humano, en los esfuerzos de la sociedad por KEEP la IA en su camino. Las cadenas de bloques pueden ayudar con la procedencia de los datos, con pruebas para prevenir falsificaciones profundas y otras formas de desinformación, y para permitir la propiedad colectiva, en lugar de la corporativa. Pero incluso dejando de lado estas consideraciones, creo que la contribución más valiosa de la comunidad de las Cripto reside en su "mentalidad descentralizadora", que ofrece una perspectiva única sobre los peligros que plantea la propiedad concentrada de una Tecnología tan poderosa.

Una visión bizantina de los riesgos de la IA

En primer lugar, ¿qué quiero decir con esta “mentalidad de descentralización”?

Bueno, en CORE, las Cripto se basan en la filosofía de "no confíes, verifica". Los desarrolladores de Cripto más acérrimos, en lugar de los acaparadores de dinero cuyos casinos centralizados de tokens desacreditan la industria, participan sin descanso en... “ALICE y Bob” Experimentos mentales para considerar todos los vectores de amenaza y puntos de falla mediante los cuales un actor deshonesto podría, intencional o involuntariamente, causar daño. Bitcoin nació de Satoshi intentando resolver ONE de los escenarios más famosos de la teoría de juegos, el... Problema de los generales bizantinos, que trata sobre cómo confiar en la información de alguien que no conoces.

Esta mentalidad considera la descentralización como la forma de abordar esos riesgos. La idea es que si no existe una entidad única y centralizada con poderes de intermediario para determinar el resultado de un intercambio entre dos actores, y ambos pueden confiar en la información disponible sobre dicho intercambio, se neutraliza la amenaza de una intervención maliciosa.

Ahora, apliquemos esta cosmovisión a las demandas planteadas en la carta de “extinción” de la IA de esta semana.

Sigue leyendo: Allison Duettmann: Cómo las Cripto pueden ayudar a proteger la IA

Los firmantes quieren que los gobiernos se unan y diseñen políticas internacionales para hacer frente a la amenaza de la IA. Es un objetivo noble, pero la mentalidad descentralizada lo consideraría ingenuo. ¿Cómo podemos asumir que todos los gobiernos, presentes y futuros, reconocerán que sus intereses se benefician al cooperar en lugar de actuar por su cuenta, o peor aún, que no dirán una cosa pero harán otra? (Si cree que monitorear el programa de armas nucleares de Corea del Norte es difícil, intente traspasar un muro de cifrado financiado por el Kremlin para observar sus experimentos de aprendizaje automático).

Una cosa era esperar una coordinación global en torno a la pandemia de COVID, cuando todos los países tenían necesidad de vacunas, o esperar que la lógica de destrucción mutua asegurada (MAD) Llevaría incluso a los enemigos más acérrimos de la Guerra Fría a acordar no traer siquiera armas nucleares, donde el peor escenario es tan obvio para todos. Otra cosa es que ocurra en torno a algo tan impredecible como el rumbo de la IA y, lo que es igual de importante, donde los actores no gubernamentales pueden usar fácilmente la Tecnología independientemente de los gobiernos.

La preocupación de quealgunos en la comunidad Cripto Lo que se piensa de estos grandes actores de la IA que se apresuran a regular es que crearán una ventaja competitiva para proteger su ventaja de pioneros, dificultando que sus competidores los persigan. ¿Por qué es importante? Porque al respaldar un monopolio, se crea el riesgo centralizado que estos experimentos de Cripto de hace décadas nos dicen que debemos evitar.

Nunca le di mucha credibilidad al lema de Google "No hacer el mal", pero incluso si Alphabet, Microsoft, OpenAI y compañía tienen buenas intenciones, ¿cómo sé que su Tecnología no será cooptada por una junta directiva, un gobierno o un hacker con motivaciones diferentes en el futuro? O, dicho de forma más inocente, si esa Tecnología existe dentro de una caja negra corporativa impenetrable, ¿cómo pueden personas externas revisar el código del algoritmo para asegurarse de que un desarrollo bienintencionado no se descarrile inadvertidamente?

Y aquí hay otro experimento mental para examinar el riesgo de la centralización de la IA:

Si, como creen personas como Yudkowsky, la IA está destinada, en su trayectoria actual, a...Estado de la Inteligencia Artificial General (IAG)Con una inteligencia que podría llevarla a concluir que debería matarnos a todos, ¿qué escenario estructural la llevaría a esa conclusión? Si la capacidad de datos y procesamiento que mantiene viva a la IA se concentra en una sola entidad que puede ser desactivada por un gobierno o un director ejecutivo preocupado, ONE podría argumentar lógicamente que la IA nos mataría para evitar esa posibilidad. Pero si la propia IA vive dentro de una red descentralizada y resistente a la censura de nodos que no se pueden desactivar, este ser digital consciente no se sentirá lo suficientemente amenazado como para erradicarnos.

No tengo ni idea, por supuesto, de si así se desarrollarían las cosas. Pero a falta de una bola de cristal, la lógica de la tesis de la IA general de Yudowskly exige que realicemos estos experimentos mentales para considerar cómo podría "pensar" este posible némesis futuro.

Encontrar la combinación adecuada

Por supuesto, a la mayoría de los gobiernos les costará aceptar esto. Naturalmente, preferirán el mensaje de «por favor, regúlennos» que Altman de OpenAI y otros están difundiendo activamente en este momento. Los gobiernos quieren el control; quieren la capacidad de citar a los directores ejecutivos y ordenar cierres. Lo llevan en la sangre.

Y, para ser claros, debemos ser realistas. Vivimos en un mundo organizado en torno a los estados-nación. Nos guste o no, es el sistema jurisdiccional el que nos afecta. No tenemos más remedio que incluir cierto nivel de regulación en la estrategia de mitigación de la extinción de la IA.

El desafío consiste en encontrar la combinación adecuada y complementaria de regulación gubernamental nacional, tratados internacionales y modelos de gobernanza descentralizados y transnacionales.

Quizás existan lecciones que extraer del enfoque que gobiernos, instituciones académicas, empresas privadas y organizaciones sin fines de lucro adoptaron para regular internet. A través de organismos como la Corporación para la Asignación de Nombres de Internet (ICANN) y el Grupo de Trabajo de Ingeniería de Internet(IETF)Instalamos marcos de múltiples partes interesadas para permitir el desarrollo de estándares comunes y la resolución de disputas a través del arbitraje en lugar de los tribunales.

Sin duda, será necesario cierto nivel de regulación de la IA, pero es imposible que esta Tecnología sin fronteras, abierta y en rápida evolución sea controlada por completo por los gobiernos. Esperemos que dejen de lado la animadversión actual hacia la industria de las Cripto y busquen su asesoramiento para resolver estos desafíos con enfoques descentralizados.