Les avancées de ces technologies rendent les tests visant à différencier les réponses humaines des réponses machine (tels que celui de Turing) de moins en moins efficaces. Pourtant, malgré cette progression, des chercheurs craignent que les grands modèles de langage puissent développer une forme de « conscience de la situation », voire une « conscience de soi ».