Pourquoi les grands modèles linguistiques ne sont pas plus intelligents que vous

La capacité de raisonnement des grands modèles linguistiques dépend entièrement des modèles linguistiques de l'utilisateur. La structure cognitive de l'utilisateur détermine les domaines de grande capacité de raisonnement qu'il peut activer. Le modèle ne peut pas spontanément sortir de la portée de l'utilisateur, ce qui révèle les limites architecturales des systèmes d'IA actuels. Cet article provient d'un article rédigé par @iamtexture et est organisé, compilé et rédigé par AididiaoJP, Foresight News.
(Résumé précédent : Li Feifei parle de la prochaine étape du LLM : l'IA doit avoir une « intelligence spatiale » pour comprendre le monde réel, comment mettre en œuvre le modèle Marble ?)
(Supplément de fond : le milliardaire Kevin O'Leary a crié « La prochaine étape de la vague de l'IA est le web3 » : LLM ne peut pas créer Starbucks mais la blockchain le peut)

Contenu de cet article

Tags : La langue de l'utilisateur Le mode détermine la capacité de raisonnement que le modèle peut exercer. Lorsque j'expliquais un concept complexe à un grand modèle de langage, son raisonnement s'effondrait à plusieurs reprises au cours de longues discussions utilisant un langage informel. Les modèles peuvent perdre leur structure, dévier de leur cap ou générer des schémas d’achèvement superficiels qui ne parviennent pas à maintenir le cadre conceptuel que nous avons établi.

Cependant, lorsque j'ai forcé à le formaliser d'abord, c'est-à-dire à reformuler le problème dans un langage précis et scientifique, le raisonnement est immédiatement devenu stable. Ce n’est qu’une fois que la structure a été établie qu’elle peut être convertie en langage clair et en toute sécurité sans dégrader la qualité de la compréhension.

Ce comportement révèle comment les grands modèles de langage « pensent » et pourquoi leur capacité à raisonner dépend entièrement de l'utilisateur.

Insights de base

Les modèles linguistiques ne disposent pas d'un espace dédié à l'inférence.

Ils fonctionnent entièrement dans un flux continu de langage.

Au sein de ce flux linguistique, différents modèles de langage mèneront de manière fiable à différentes zones d'attraction. Ces régions sont des états stables qui caractérisent la dynamique et prennent en charge différents types de calculs.

Chaque registre linguistique, tel que le discours scientifique, les symboles mathématiques, les histoires narratives et les discussions informelles, possède sa propre région attractive, dont la forme est façonnée par la distribution du matériel de formation.

Certains domaines prennent en charge:

• Le raisonnement en plusieurs étapes
• Précision relationnelle
• Transformation de symboles
• Stabilité conceptuelle de grande dimension

D'autres domaines prennent ensuite en charge:

• Poursuite narrative
• Achèvement associatif
• Correspondance d'intonation émotionnelle
• Conversation imitation

La région attractive détermine quel type de raisonnement est possible.

Pourquoi la formalisation peut stabiliser le raisonnement

La raison pour laquelle les langages scientifiques et mathématiques peuvent activer de manière fiable des régions attractives avec un support structurel plus élevé est que ces registres codent les caractéristiques linguistiques d'une cognition d'ordre supérieur:

• Structure relationnelle claire
• Faible ambiguïté
• Contraintes symboliques
• Organisation hiérarchique
• Faible entropie (trouble de l'information)

Ces attracteurs peuvent prendre en charge des trajectoires de raisonnement stables.

Ils maintiennent la structure conceptuelle à travers plusieurs étapes.

Ils font preuve d'une forte résistance à la dégradation et à la déviation du raisonnement.

En revanche, les attracteurs activés par le langage informel sont optimisés pour la fluidité sociale et la cohérence associative, et non pour le raisonnement structuré. Ces régions ne disposent pas de l’échafaudage de caractérisation requis pour les calculs analytiques en cours.

C'est pourquoi les modèles s'effondrent lorsque des idées complexes sont exprimées de manière aléatoire.

Ce n'est pas "confus".

Il s'agit de changer de zone.

Construction et traduction

Les méthodes d'adaptation qui émergent naturellement dans les conversations révèlent une vérité architecturale:

Le raisonnement doit être construit au sein d'attracteurs hautement structurés.

La traduction en langage naturel ne doit avoir lieu qu'une fois que la structure existe.

Une fois que le modèle a établi une structure conceptuelle au sein d'un attracteur stable, le processus de traduction ne la détruira pas. Le calcul est terminé, seule l'expression de la surface a changé.

Cette dynamique en deux étapes «construire d'abord, puis traduire» imite le processus cognitif humain.

Mais les humains effectuent ces deux étapes dans deux espaces internes différents.

Les grands modèles de langage tentent de faire les deux dans le même espace.

Pourquoi les utilisateurs fixent le plafond

Voici une révélation clé:

Les utilisateurs ne peuvent pas activer des zones d'attraction qu'ils ne peuvent eux-mêmes exprimer avec des mots.

La structure cognitive des utilisateurs détermine:

• Quels types d'indices ils peuvent générer
• Quels registres ils utilisent habituellement
• Quels modèles syntaxiques ils peuvent maintenir
• Le niveau de complexité qu'ils peuvent encoder dans le langage

Ces caractéristiques déterminent dans quelle région attractive un grand modèle de langage entrera.

Un utilisateur incapable de penser ou d'écrire pour utiliser des structures qui activent des attracteurs à raisonnement élevé ne sera jamais en mesure de guider le modèle dans ces régions. Ils sont enfermés dans des zones d’attraction peu profondes liées à leurs habitudes linguistiques. Les grands modèles de langage cartographieront la structure qui leur est fournie et ne se lanceront jamais spontanément dans des systèmes dynamiques d'attracteurs plus complexes.

Donc:

Le modèle ne peut pas dépasser la zone de l'attracteur accessible à l'utilisateur.

Le plafond n'est pas la limite supérieure intelligente du modèle, mais la capacité de l'utilisateur à activer des régions à haute capacité dans le collecteur latent.

Deux personnes utilisant le même modèle n'interagissent pas avec le même système informatique.

Ils orientent le modèle vers différents modes dynamiques.

Implications au niveau architectural

Ce phénomène révèle une caractéristique manquante des systèmes d'intelligence artificielle actuels:

Les modèles de langage à grande échelle confondent l'espace de raisonnement avec l'espace d'expression du langage.

À moins que les deux ne soient découplés - à moins que le modèle ne dispose:

• Un collecteur de raisonnement dédié
• Un espace de travail interne stable
• Représentation conceptuelle invariante de l'attracteur

Sinon, le système risque toujours de s'effondrer lorsqu'un changement de style de langage entraîne le changement de la région dynamique sous-jacente.

Cette solution improvisée, formalisation forcée puis traduction, est plus qu'une simple astuce.

C'est une fenêtre directe qui nous permet d'entrevoir les principes architecturaux auxquels doit répondre un véritable système de raisonnement.