Un nuevo estudio publicado este mes por la Asociación para el Avance de la Inteligencia Artificial (AAAI), en el que participaron cientos de investigadores de IA, tiene un hallazgo clave: es poco probable que nuestro enfoque actual hacia la IA nos lleve a una inteligencia artificial general.
La inteligencia artificial ha sido un tema de conversación popular en los últimos años, pero el campo de la IA como área de investigación científica existe desde hace décadas. Por ejemplo, el famoso artículo de Alan Turing "Computing Machinery and Intelligence" y el Test de Turing del que todavía hablamos hoy se publicaron en 1950.
La IA de la que todo el mundo habla hoy nació de estas décadas de investigación, pero también se está alejando de ellas. En lugar de ser una investigación científica, ahora también tenemos una rama distinta de IA que podemos llamar “IA comercial”.
Grandes monopolios como Microsoft, Google, Meta, Apple y Amazon están liderando esfuerzos comerciales en IA, con el objetivo principal de crear productos de IA. Esto no debería ser un problema, pero por ahora parece que podría serlo.
En primer lugar, dado que la mayoría de la gente solo ha seguido la investigación en IA durante los últimos dos años, todo lo que la persona promedio sabe sobre IA proviene de estas empresas, no de la comunidad científica. El estudio aborda este problema en el capítulo «Percepción de la IA frente a la realidad», donde el 79 % de los científicos participantes cree que las percepciones actuales sobre las capacidades de la IA no se corresponden con la realidad de la investigación y el desarrollo en este campo.
En otras palabras, lo que el público en general piensa que la IA puede hacer no coincide con lo que los científicos piensan que la IA puede hacer. La razón de esto es tan simple como desafortunada: cuando un alto ejecutivo tecnológico hace una declaración sobre IA, no es una opinión científica: es marketing de producto. Quieren promocionar la tecnología que impulsa sus nuevos productos y asegurarse de que todos sientan la necesidad de sumarse a la tendencia.
Cuando Sam Altman o Mark Zuckerberg afirman que los puestos de ingeniería de software serán reemplazados por la inteligencia artificial, por ejemplo, lo hacen para influir en los ingenieros, incentivarlos a adquirir habilidades en IA y persuadir a las empresas tecnológicas para que inviertan en costosos planes empresariales. Sin embargo, a menos que empiecen a reemplazar a sus ingenieros (y a obtener beneficios de ello), personalmente no les creeré ni una palabra al respecto.
Sin embargo, no es solo la percepción del público lo que influye la IA comercial. Los participantes del estudio creen que el “bombo publicitario sobre la IA” creado por las grandes empresas tecnológicas está perjudicando los esfuerzos de investigación. Por ejemplo, el 74% está de acuerdo en que la dirección de la investigación en IA está determinada por la publicidad, probablemente porque la investigación que se alinea con los objetivos comerciales de IA es más fácil de financiar. El 12% también cree que la investigación teórica sobre IA está sufriendo como resultado de ello.
Entonces, ¿qué tan grave es este problema? Incluso si las grandes empresas tecnológicas influyen en el tipo de investigación que hacemos, las sumas presumiblemente enormes que invierten en este campo deberían tener un impacto positivo general. Sin embargo, la variedad es clave cuando se trata de investigación: necesitamos recorrer todo tipo de caminos diferentes para tener la posibilidad de encontrar el mejor.
Pero las grandes empresas tecnológicas se centran actualmente en una sola cosa: grandes modelos de lenguaje. Este tipo específico de modelo de IA es el que impulsa casi todos los productos de IA más recientes, y personas como Sam Altman creen que, al escalar cada vez más estos modelos (es decir, dotándolos de más datos, más tiempo de entrenamiento y mayor potencia de cálculo), eventualmente lograremos una IA general.
Esta idea, conocida como la hipótesis de escala, dice que cuanto más potencia le damos a la IA, mayores serán sus capacidades cognitivas y menores sus índices de error. Algunas interpretaciones también dicen que surgirán nuevas capacidades cognitivas inesperadamente. Por lo tanto, aunque por ahora los modelos de lenguaje de gran tamaño no son muy buenos para planificar y razonar sobre problemas, estas capacidades deben surgir en algún momento.
no hay pared
– Sam Altman (@sama) 14 de noviembre de 2024
Sin embargo, en los últimos meses, la hipótesis de la escalabilidad ha recibido considerables críticas. Algunos científicos creen que escalar grandes modelos de lenguaje nunca conducirá a la inteligencia artificial general, argumentando que toda la potencia adicional que les otorgamos a los nuevos modelos ya no produce resultados. En cambio, hemos llegado a un «muro de escalabilidad» o «límite de escalabilidad» donde grandes cantidades de potencia de cálculo y datos adicionales solo generan mejoras menores en los nuevos modelos. La mayoría de los científicos que participaron en el estudio AAAI comparten esta postura.
La mayoría de los encuestados (76%) afirmó que es “poco probable” o “muy poco probable” que “ampliar los enfoques actuales de IA” para lograr la IAG tenga éxito, lo que indica dudas sobre si los modelos actuales de aprendizaje automático son suficientes para lograr la inteligencia general.
Los sistemas de lenguaje actuales, de gran tamaño, pueden generar respuestas muy relevantes y útiles cuando todo va bien, pero para ello se basan en principios matemáticos . Muchos científicos creen que necesitaremos nuevos algoritmos que utilicen la lógica, el razonamiento y el conocimiento fáctico para llegar a una solución si queremos avanzar hacia la inteligencia artificial general. A continuación, una cita mordaz sobre los sistemas de lenguaje y la inteligencia artificial general, extraída de un artículo de Jacob Browning y Jan LeCun de 2022 .
Un sistema entrenado sólo con el lenguaje nunca se acercará a la inteligencia humana, incluso si fuera entrenado desde ahora hasta que se extinga el calor del universo.
Sin embargo, no hay forma de saber quién tiene razón aquí; todavía no. Por un lado, la definición de inteligencia artificial general no es fija y no todos buscan lo mismo. Algunas personas creen que la inteligencia artificial general debería producir respuestas similares a las humanas a través de métodos similares a los humanos, es decir, debería observar el mundo que la rodea y resolver problemas de una manera similar a nosotros. Mientras que otros creen que la IA general debería centrarse más en respuestas correctas en lugar de respuestas humanas, y que los métodos que utilice no deberían importar.
Sin embargo, en muchos sentidos, no importa realmente qué versión de IA general le interese ni si está a favor o en contra de la hipótesis de escalabilidad: aún necesitamos diversificar nuestros esfuerzos de investigación. Si nos centramos únicamente en escalar grandes modelos de lenguaje, tendremos que empezar de cero si no funcionan, y podríamos no descubrir métodos nuevos, más eficaces o eficientes. Muchos de los científicos que participan en este estudio temen que la IA comercial y la expectación que la rodea ralenticen el progreso real, pero lo único que podemos hacer es esperar que se aborden sus preocupaciones y que ambas ramas de la investigación en IA puedan coexistir y avanzar juntas. Por supuesto, también podría esperar que la burbuja de la IA estalle y que todos los productos tecnológicos basados en IA caigan en el olvido, si lo prefiere.
Los comentarios están cerrados.