提案中建議,設計師們應該確保任何機器人身上都裝有“關閉開關”,在必要時候,允許人類關閉機器人功能。與此同時,機器人用戶應該在沒有危險或擔心受到心理或生理傷害的情況下使用機器人。提案中稱,機器人、聊天機器人以及其他人工智能機器正準備發動新的工業革命,任何社會階層都將受到影響。
科幻作家艾薩克·阿西莫夫(Isaac Asimov)曾提出機器人三原則,即當機器人擁有自我意識后,它們應該如何行事。機器人三原則包括:1.機器人不得傷害人類,或看到人類受到傷害而袖手旁觀。2.機器人必須服從人類的命令,除非這條命令與第一條相矛盾。3.機器人必須保護自己,除非這種保護與以上兩條相矛盾。
與此同時,機器人研究應該尊重基本權利,并為人類謀福祉。設計師可能被要求為機器人進行登記,同時在機器人造成的意外或損失調查中提供源代碼。設計師在進行最新機器人研究時,可能需要獲得研究倫理委員會的批準。提案呼吁創建歐洲機器人和人工智能機構,以便提供技術、倫理以及監管等方面的指導。
有許多報道稱,大量工作將被人工智能或機器人取代,歐盟成員國應該考慮為本國公民引入普遍的基本收入保障機制。提案還呼吁機器人承擔法律責任,并建議它們承擔的責任應該與機器人的實際指令水平和自動化程度成正比。提案中稱:“機器人的學習能力或自動化程度越高,其他方需要承擔的責任就越小。機器人受訓的時間越長,其導師應該承擔的責任就越大。”
將來,機器人的制造者或主人可能要為他們機器人造成的潛在損壞投保。如果歐洲議會投票通過這部提案,還需要各成員國進行進一步辯論和修改,最后才會成為歐盟法律。