據外媒報道，約克大學（University of York）的英國計算機科學家團隊開發出一個突破性的流程，可幫助確保機器學習（ML）和用于自動駕駛技術的AI安全。該方法可幫助工程師建立一個安全案例，在最終交付用戶時明確且系統地建立對ML的置信度。

隨著機器人、送貨無人機、智能工廠和無人駕駛汽車越來越普及，目前自動駕駛技術的安全法規出現灰色地帶。與其他高風險技術相比，自動駕駛系統的全球指導方針并不嚴格。當前標準在細節方面不夠明確，因此在AI和ML等新技術進入市場時，使用這些技術改善生活可能不夠安全。

這一新指南由約克大學的保證自主國際計劃（Assuring Autonomy International Programme，AAIP）開發，名為用于自動駕駛系統的機器學習保證（Assurance of Machine Learning for use in Autonomous Systems，AMLAS）。AAIP與行業專家合作開發流程，將安全保證系統地集成到ML組件的開發中。

高級研究員、AMLAS的作者之一Richard Hawkins博士說：“目前確保自動駕駛技術安全的方法幾乎沒有指導或制定標準。全球各部門都在努力盡快制定新的指導方針，以確保機器人和自動駕駛系統的安全性。”

獨立性

AAIP持中立立場，可獨立將企業、學術研究、監管機構以及保險和法律專業人士聯系起來，為安全的人工智能、機器人技術和自動駕駛系統編寫新指南。

Hawkins博士表示：“AMLAS可幫助所有擁有新自主產品的企業或個人將安全保證（safety assurance）系統地集成到ML組件的開發中。我們的研究可幫助理解自動駕駛技術安全運行的風險和限制。”

Hawkins博士還表示：“在約克，我們針對最佳實踐和流程進行了大量研究，以收集可以評估這些新復雜技術安全性的證據。此外，我們還在安全設計、評估和機器人和自動駕駛系統使用方面進行訓練。”

AAIP是約克大學的一個安全保證小組，與勞氏基金會（Lloyd's Register的慈善機構）合作，致力于打造一個更安全的世界。（劉麗婷）