正當蘋果智能手機iPhone 16以AI（人工智能）為賣點引起全球消費者熱議時，蘋果總部所在地——美國加州政府通過了一項人工智能法案，試圖為高風險的AI大模型建立明確的安全標準，以防止其被濫用或引發嚴重後果。此前已正式生效的歐盟《人工智能法案》將AI系統分為4個風險等級，通過全面的監管框架作出規管。歐美相繼收緊AI監管，對從AI大模型開發到AI在各行各業的應用均產生深遠影響。
美國加州的州議會於8月28日通過一項《前沿人工智能模型安全創新法案》，如獲州長於9月30日前簽署，將成為美國第一個針對大型AI模型制定全面安全措施的地方政府。該法案要求開發AI大模型的企業在向公眾發布AI系統前，必須進行嚴格的安全測試，並採取適當的保護措施和政策，以防止嚴重的危害。若AI系統造成多人死亡、或者5億美元以上的財產損失等，可對AI系統的開發者處以巨額罰款。
法案同時提出建立一個國家實體來監督這些模型的發展，但最具爭議性的是賦予州檢察長向開發商提出訴訟的權力。加州匯聚OpenAI、Meta、谷歌、蘋果、亞馬遜等AI領跑公司，是全球AI創新和發展最主要的中心，一旦落實對美國甚至全球的科技行業政策產生重大影響。
涉AI產業鏈上各營運者
歐盟《人工智能法案》比美國更早立法，已於8月1日生效，並分階段執行，具有更全面的監管覆蓋範圍。歐盟採取風險管理導向的方法，把AI系統分為四個風險等級：不可接受風險、高風險、有限風險和最小風險，對社會帶來危害的風險愈高，監管要求就愈嚴格。
歐盟法案適用於AI產業鏈上的各個環節，主要包括AI系統提供者、部署者、進口商和分銷商，對不遵守其規定的企業處以最高3500萬歐元、或企業上一年度全球營業額7%的罰款。只要AI系統本身在歐盟上市或被使用、AI系統產生之結果在歐盟被使用，不管供應商是在歐盟或第三國設立登記，都必須要受到歐盟的人工智能法的管制。
不要以為新規只是歐盟的事，也不要以為自己沒有從事AI開發，就事不關己。法案廣泛的適用範圍和嚴厲的處罰，對企業帶來了新的合規要求。
首當其衝的是正在加速出海的AI大模型企業，根據法案對AI產業鏈上各經營者角色的定義，判斷一家AI大模型企業屬於何種經營者需結合其商業模式判斷。「提供者」是指以自身名義首次將AI系統投放歐盟市場者；為「提供者」提供AI演算法技術支援者，如果在開發演算法後，以自身名義向歐盟企業出售演算法，並且該AI演算法也符合歐盟法案下AI系統的定義，亦有可能構成AI系統「提供者」。
AI大模型企業還需要判斷所經營的AI大模型的風險級別。譬如同一個大語言模型，如果其用於開發操控兒童心智的AI伴聊工具，應屬於被禁止的AI系統；若其用於發布有針對性的招聘廣告、分析和過濾求職申請以及評估候選人，應屬於高風險AI系統；若用於生成小說，應屬於有限風險的AI系統。
產品或服務應用了AI系統的企業，也需打醒十二分精神。如果汽車搭載自研的AI系統，那麼車企可能屬於AI系統提供者；當汽車搭載第三方供應的AI系統，並允許技術供應商顯名，則第三方可能變成AI系統提供者，車廠成為AI系統「部署者」；當「高風險AI系統」構成汽車的安全組件時，整車廠屬於生產者角色，亦變成高風險AI系統「提供者」。
AI系統在醫療健康行業應用也愈來愈多。對於醫療器械企業，如果所出口的AI系統本身即構成一種醫療器械，或AI系統構成了醫療器械的安全組件，製造商可能被界定為AI系統「提供者」；對於製藥企業，如果企業僅利用AI工具輔助藥物研發或藥物生產，但出口產品是藥物，考慮到AI系統本身並未進入歐盟市場或向歐盟市場提供服務，製藥企業可能不受法案約束；醫院部署以AI系統作為安全組件的醫療器械則可能被視為AI系統「部署者」。
此外，AI系統在電商平台應用廣泛，涵蓋了商品和廣告的個性化推薦、智能客服、繪製精準用戶畫像、智能比價等多個場景。電商平台企業在運營過程中，常常利用積累的用戶數據自行訓練演算法並開發AI模型，當這些電商平台將自研AI模型投放市場或用以提供服務時，即屬於AI系統的「提供者」；並在採用自研AI模型時，同時成為AI系統的「部署者」；其他採用其自研AI模型的商家或電商平台則屬於AI系統的「部署者」。
歐美率先立法，相信會有更多國家跟進，有意出海的AI大模型企業、汽車企業、生物醫企與電商平台等，必需高度關注監管發展，在複雜環境中找出路，將會是未來的重大挑戰。
