L’architecture de réseau de neurones, publiée en 2017, qui a rendu possibles les modèles de langage actuels.
Un modèle dont les paramètres sont publiés, ce qui permet de l’exécuter sur ses propres machines — sans que le reste soit nécessairement ouvert.
Une méthode qui fait consulter des documents choisis à un modèle avant qu’il ne réponde, plutôt que de s’en remettre à sa seule mémoire.
L’hypothèse d’une intelligence artificielle capable de traiter n’importe quelle tâche intellectuelle, et non un domaine particulier.
Un programme autonome qui perçoit son environnement, prend des décisions et agit pour atteindre des objectifs définis.
L’unité élémentaire dans laquelle un texte est découpé pour être traité par un modèle de langage.