2017年，李彥宏乘坐無人駕駛汽車在北京五環路上被查，一時成為輿論熱點。在之后不到一年時間里，北京和上海相繼出臺管理辦法，允許無人駕駛汽車上路試驗。舊問題解決了，新問題又產生：無人駕駛汽車發生損壞財物或者傷人的情況如何進行歸責?智能醫療技術造成的醫療事故罪等業務過失犯罪如何定性?人工智能創作作品涉嫌侵犯他人著作權時，藝術家如何維權?新形勢下，人工智能技術帶來的深刻變革對法律制定與司法實踐提出了新要求。
人工智能犯罪的責任認定應遵循技術中立原則。技術背后的責任主體仍然是人，應對利用或濫用技術從事違法犯罪活動的行為主體直接歸責。2017年，紹興破獲全國首例利用人工智能技術進行電信詐騙的案件。案件背后的黑色產業鏈涉及非法獲取網站后臺數據、使用“撞庫”軟件獲取賬戶密碼等多個方面，相關犯罪嫌疑人均受到了法律制裁。可見，技術成不了軟件開發者違法犯罪的保護傘。
相比于主觀上開發、利用人工智能技術的犯罪，人工智能技術因自身不完善造成的過失犯罪更為復雜。比如，自動駕駛汽車未來走入我們的日常生活后，如果出現毀物或傷人情況，相關責任該如何認定?南京大學法學院教授單勇認為：“相關行政法規已經對自動駕駛汽車的道路準入問題做出了規定，民法也應跟進相關問題。應在特定人工智能技術獲得相關行政及民事法律法規的許可后，再考慮智能機器運行可能衍生出的社會危害性，以及是否需要刑法介入的問題。”
人工智能可能被犯罪分子利用，也能在犯罪預防、破案、量刑等方面發揮作用。2017年7月，我國“國雙”檢察院線產品推出定罪量刑輔助系統。根據給定資料、結合法律法規和既往案例，該系統可以給法官提供量刑建議，有利于促進量刑規范化。此外，利用大數據篩查違法犯罪高危人群有助于預防犯罪發生。單勇認為：“近期發生的兩起滴滴乘客遇害案中，犯罪嫌疑人都在P2P平臺借了不少高利貸而又無力償還。這類群體具有高危犯罪人群的特征。如果我們運用經濟及金融大數據、社交大數據對司機進行大數據篩查，排除高危人群進入順風車司機行業，就能更好地保障乘客安全。”此外，利用地理信息系統繪制犯罪地圖并向公眾公開，能為民眾安全生活提供行動參考。
總之，人工智能不僅將改變人類生活方式，也將改變法制環境。怎樣用人工智能促進法制建設，同時給它套上法制的“緊箍”，不讓它胡作非為，是依法治國的新課題。
