Dario Amodi (Anthropic): La gente ve cómo los gobiernos explotan la inteligencia artificial... una crisis de confianza.

Mucho se ha dicho ya sobre el pesimismo y los temores que rodean a la inteligencia artificial ; algunos se basan en las advertencias de las novelas distópicas clásicas, pero muchos tienen fundamento en la realidad. Existe mucho optimismo y muchas promesas por parte de quienes controlan esta tecnología, pero poco de ello se ha materializado aún en beneficios tangibles.

Dario Amode, director ejecutivo y cofundador de Anthropic, afirmó en una publicación en X : "Creo que la crítica más acertada a las empresas de IA , incluida Anthropic, es que aún no hemos cumplido nuestras grandes promesas de beneficiar al mundo".

Amoudi argumenta que la tecnología está sufriendo una "crisis de confianza" derivada de la creencia de que las corporaciones y los gobiernos están "ideando nuevas formas de explotarlos". Pero dado el gran grado de dependencia de la inteligencia artificial en el ejército, las fuerzas del orden y los servicios de inteligencia estadounidenses, ¿es erróneo pensar así?

La inteligencia artificial no puede salir de esta crisis solo con relaciones públicas.

Con la llegada de la inteligencia artificial (IA), gran parte de los beneficios que se le atribuían a esta tecnología tenían como objetivo convencer a ejecutivos y altos directivos de que, a pesar de no estar completamente demostrada, constituía una inversión rentable. En consecuencia, muchos líderes en IA la posicionaron como una forma de reducir los costos laborales de las empresas mediante la sustitución de trabajadores humanos por IA.

Algunos supuestos "expertos" en IA siguen expresando estas ideas a puerta cerrada. Este año asistí a un evento privado donde un supuesto experto predijo que la superinteligencia acabaría con hasta el 50% de la fuerza laboral mundial en 10 años, y que las empresas mejor preparadas para sacar provecho de este evento catastrófico obtendrían un control y una riqueza inimaginables. Esto, por supuesto, fue recibido con aplausos por la alta dirección de las empresas presentes.

El propio Amoudi afirmó que la inteligencia artificial podría eliminar el 50% de los puestos de trabajo de oficina. Sin embargo, posteriormente reformuló ese mensaje, declarando que la IA es un "multiplicador de la producción" o, dicho de otro modo, que "aumenta la productividad sin aumentar la remuneración", lo cual no es más que propaganda empresarial.

Como he dicho repetidamente, la prueba de la eficacia de la IA reside en los resultados reales. Hemos oído hablar mucho de lo que puede hacer, pero hemos visto pocos beneficios de lo que realmente puede hacer. Y en ese sentido, Amodi lo reconoce.

Señala que si un anuncio afirmara que la inteligencia artificial puede curar el cáncer, sería completamente engañoso. Afirma: «Lo que sí funcionará es curar el cáncer ».

Amoudi dejó entrever el compromiso ético de Anthropic con estos temas, explicando que la empresa está "intensificando sus esfuerzos" para centrarse en el uso de la IA en biología y medicina. Pero, insisto, aún no hemos visto los resultados.

La publicación de Amoudi también abordó el tema de la concentración de poder en la IA, haciéndose eco de algunas de las críticas recientes de Mark Zuckerberg sobre la mejor manera de utilizar la IA en beneficio de todos. La postura de Amoudi difería ligeramente de la de Zuckerberg, ya que abogaba por un equilibrio entre regulación, supervisión, pruebas y modelos ponderados abiertos.

Amoudi señala que coincide en algunos aspectos con el movimiento "Acelerar la Frontera", explicando que aplicar controles a los laboratorios de vanguardia "ajustaría" el ritmo del desarrollo tecnológico, al tiempo que permitiría al resto de la industria ponerse al día.

El defecto obvio de este plan es que ningún otro país estaría sujeto a esta regulación, lo que podría obstaculizar deliberadamente el dominio estadounidense en la industria de la inteligencia artificial, algo que la administración Trump siempre ha insistido en que no permitiría.

¿Ofrece la inteligencia artificial más beneficios a las infraestructuras autoritarias que a las personas?

Los sistemas de inteligencia artificial se han implementado ampliamente en infraestructuras de vigilancia. Hasta que se rompió su relación con el Pentágono, Anthropic colaboraba con el Departamento de Defensa suministrando sistemas de IA. Anthropic se negó a permitir que su tecnología se utilizara para la vigilancia masiva y el desarrollo de armas totalmente autónomas, y como consecuencia, perdió el contrato.

Afortunadamente para el Departamento de Defensa (DoD), OpenAI llegó a un nuevo acuerdo con el Pentágono y rápidamente llenó el vacío dejado por Anthropic, al tiempo que impuso una prohibición sobre el uso de su tecnología para espiar a los estadounidenses.

Pero eso no significa que otras empresas se adhieran a los mismos estándares éticos. Flock, por ejemplo, se ha enfrentado a una fuerte resistencia por sus cámaras con inteligencia artificial diseñadas para rastrear matrículas de vehículos en todo Estados Unidos.

El sistema está diseñado para identificar los vehículos de los sospechosos cuando cruzan fronteras y zonas bajo jurisdicción estatal, pero en cambio ha resultado eficaz como medio para que las fuerzas del orden persigan a antiguos socios , vigilen a sus compañeros y rastreen sus intereses sentimentales.

Los sistemas de inteligencia artificial también se están implementando en el control del tráfico y las cámaras de velocidad. Esto ha generado gran interés como un área gris en la labor policial, especialmente en lo que respecta a los sistemas que identifican erróneamente las matrículas o que están mal configurados.

En los casos penales estadounidenses, la carga de la prueba recae en el gobierno para demostrar que alguien cometió un delito. Sin embargo, algunos sistemas automatizados de multas de tráfico, que han emitido multas a vehículos equivocados, han sido duramente criticados por exigir a los acusados ​​que demuestren su inocencia ante un tribunal, invirtiendo así el principio de la carga de la prueba en los casos penales.

Y aquí radica el principal problema que todos están ignorando.

La tecnología de inteligencia artificial de Palantir se utiliza en las fuerzas armadas y los organismos policiales de Estados Unidos. En particular, el Servicio de Inmigración y Control de Aduanas de EE. UU. (ICE) la ha empleado para rastrear a presuntos inmigrantes indocumentados. Sin embargo, la tecnología de Palantir también se utiliza en el análisis de imágenes de drones, ataques de precisión de largo alcance, análisis de datos y planificación militar.

No cabe duda de que fue una herramienta fundamental para lograr el "récord mundial" de mayor número de veces que se "ganó" una sola guerra.

La inteligencia artificial es una buena noticia si no tienes nada que ocultar y te gusta estar del lado de los "buenos", pero esa definición está en constante cambio.