Las IA cuentan con amplias posibilidades. Desde su creación ha generado intriga en los usuarios. Sin embargo, los investigadores de la empresa de inteligencia artificial o IA Anthoropic, creadores del sistema de Google Claude, afirman haber logrado un avance en su comprensión.
Los dueños realizaron una investigación en la que parecen haber descubierto cosas inesperadas.
Los hallazgos de la IA de Google Claude
La empresa IA Anthropic analizó diez comportamientos diferentes en Claude obteniendo resultados interesantes. Uno de los análisis era sobre el uso de diferentes idiomas: "¿Tiene Claude una parte que habla francés y otra que habla chino, y así sucesivamente?", planteaban.
Frente a esto, identificaron que utilizaba componentes independientes de cualquier idioma para responder a una pregunta o resolver un problema y luego elegía un idioma específico cuando respondía.
Es decir, la IA utiliza cosas en una lengua para luego aprender y aplicarlas en otras. Este es el mismo sistema que utilizaban también para resolver problemas matemáticos sencillos. En esto, se percataron de que desarrollaba sus propias estrategias diferentes a las que ha visto en sus datos de entrenamiento.
El inesperado razonamiento propio de la IA
"Estos hallazgos no sólo son interesantes desde el punto de vista científico, sino que suponen un avance significativo hacia nuestro objetivo. Queremos comprender los sistemas de IA y asegurarnos de que son fiables", explicó la empresa.
"Nos habíamos propuesto demostrar que el modelo no planificaba con antelación, y descubrimos que sí lo hacía", concluyeron en Anthropic. Y explicaron otro ejemplo: "En una respuesta a un ejemplo de fuga de la cárcel, descubrimos que el modelo reconocía que se le había pedido información peligrosa mucho antes de ser capaz de reconducir la conversación".
Sin embargo, a esta tecnología le ven muchos beneficios: "En la actualidad se necesitan varias horas de esfuerzo humano para comprender los circuitos que vemos, incluso en indicaciones con sólo decenas de palabras", concluyeron.
