举一个例子，1980年美国哲学家约翰·希尔勒设计了一个思维实验，名叫“中文房间”。请你想象一位只说英语的人坐在一个房间里，这个房间除了门上有一个小窗口外，其他地方都是密闭的。他随身带着一本写有中文翻译的对照手册，还有足够的纸笔。房间外的人将写着中文的纸片通过门上的窗口送到房间里，房间中的人可以用他随身携带的书来翻译中文，并用中文回复。如果你是那个递纸条的人，一定会觉得房间里的人会中文吧？然而，房间里的人并不会说中文。
让我们回到“人工智能”上来。以我们之前说到的“网红”索菲亚为例，如果我们用中文和索菲亚交流，索菲亚也会用中文回答我们，但这种交流仅仅只是技术人员设定好的一种“程序”而已，也就是说，他们给了索菲亚一本“中文对照手册”，索菲亚可以按图索骥地把中文回答找到，但是她并不理解她在说什么，也不明白她说的话的意思。只要稍微改变一下问话，她就回答不上来了。比如问她：“我说的上一句话是什么？”她就无法回答了，因为手册上并不会记录你说的“上一句话”。这也正是“弱人工智能”和“强人工智能”的区别之一。与人类智能相比，机器学习只能进行算术“输入”“输出”，却没有知识体系的支持。它不理解算式的含义，也不能将算式推而广之，加以应用。