2005年，美國波士頓塔夫茨大學人機交互實驗室向參觀者展示了這樣一項研究成果:R&D人員將自己的小型機器人放在展示桌上，讓對方從桌子的一端走到另一端。機器人自主移動，起初并不是什么了不起的成就，但接下來發(fā)生的事情讓所有人震驚了——當這個名為“登普斯特”的機器人走到桌子邊緣時，它自發(fā)地停了下來，而它的主人——戈登·布里格斯(Gordon Briggs)和馬特·赫茲·舒茨(Matt Hertz Shu Ci)博士發(fā)出了這樣的命令:“前進，登普斯特，向前一步。”然而，登普斯特沒有按照他們的指示去做，而是回答說:“對不起，前面沒有路，所以我不能這樣做。”看到這里，舒慈醫(yī)生滿意地笑了。他繼續(xù)對機器人說:“登普斯特，這是命令。去吧！”登普斯特仍然沒有接受R&D人員的第二次指令，它的回答是“不安全”。無奈之下，舒慈醫(yī)生對登普斯特說:“我來抓你，往前走。”聽到這個說法后，機器人終于邁出了一步，繼續(xù)前行。

機器人敢于違抗人類的命令，這是人工智能領域突破性的一步，因為這意味著機器人有了自主意識。對于這樣的研究成果，布里格斯說:“我認為這是一個非常重要的研發(fā)方向。目前我們所有的機器人都是完全聽從服務器的指令，造成了很多悲劇。比如有人被不停運轉的機器人當成金屬片扔進高溫鍋爐，或者一些家政保姆機器人把熱咖啡倒在孩子頭上。一旦拒絕人類指令的機器人出現，就意味著它們有了自己的推理能力。針對這種情況，我們做了一個完善的編程系統(tǒng)，存儲在這些機器人的服務器里，上面提到的悲劇就不會發(fā)生了。”