“行車不規范，親人兩行淚，”還要承擔相應的法律責任。但，如果開車的“人”是人工智能怎么辦？

今天下午上海代表團議案會簽現場，全國人大代表、致公黨上海市委專職副主委邵志清表示，當社會行為主體中出現“人工智能”這個新門類，應該明確人工智能與自然人的行為劃分。當人工智能“犯錯”，智能機器人的使用者、制造者和機器人本身都要承擔相應責任，但這些法律責任應進行嚴格的區分。

日前，新華社在全國兩會前夕推出全球首個人工智能合成女主播，引發網友熱議。但另一方面，此前浙江警方曾于2017年 9 月破獲全國首例運用人工智能實施犯罪的案件。英國《金融時報》也曾于2015年7月報道了德國大眾公司的機器人“殺人事件”，一名工作人員被正在安裝的機器人突然抓起重重摔向金屬板而不治身亡。

邵志清表示，上述案件中，有的是機器通過自主學習提升識別能力從而幫助人實施犯罪，有的則是因機器完全自主的行為導致人員傷亡。“傳統刑法領域只有自然人才是刑法規制的主體，然而在人工智能應用場景下，很多機器成為了主體。”邵志清表示，現有法律已經難以規范此類問題，需要對人工智能的應用場景管理進行立法。

對此他建議，人工智能應用場景的管理應重點圍繞倫理道德、資源獲取、主體認定、行為認定、責任劃分等方面進行立法。其中，對于人們最關注的倫理道德方面，應該明確禁止應用人工智能技術實施違反人類倫理道德的行為，尤其在基因工程、生命科學、情感意識等方面，應該通過法律為智能社會劃出倫理道德的邊界。

同時，應立法明確禁止人工智能采集涉及個人隱私、商業秘密、國家機密的資料或信息、數據等，從源頭上遏制惡意使用人工智能的不法行為。

對于特別“聰明”，已經具備自主學習、思考、行動能力的機器人，應該明確在特定的應用場景和應用前提下，機器人與自然人主體的行為哪些要區分認定，哪些要共同認定。

邵志清還特別建議，應立法明確人工智能的責任劃分和處罰原則，一旦發生機器人侵害人類的事件，應該讓智能機器人的使用者、制造者和機器人各自承擔的責任都有嚴格區分。