2024年，繼歐盟人工智慧法案，加州也推出了被稱為「安全創新與前沿人工智慧模型法案」（Safe and Secure Innovation for Frontier Artificial Intelligence Models Act）的 SB 1047 法案，目的是為最先進的AI系統建立嚴格的安全標準。
這項法案的通過被認為是全球範圍內對AI技術進行立法規範的一個先鋒舉措。它針對那些成本超過1億美元或算力超過一定程度的前沿 AI 系統，要求開發者進行全面的安全測試，以防止可能導致災難性後果的風險。SB 1047 反映了社會各界對其潛在風險的深切關注，也標誌著加州在AI法規領域的領導地位。
目前，法案已在 8 月 29 日投票通過，並提交給州長，等待他的簽署或否決。若成功簽署，將於 9 月成為加州正式法律。
立法背景與推動力量
人工智慧（AI）技術的發展已經成為各國政府和產業界密切關注的焦點。SB 1047 的立法背景與推動力量主要來自於AI技術的迅猛發展及其帶來的潛在威脅。隨著生成式AI模型如GPT-4和DALL-E等工具的普及，社會對AI技術可能造成的負面影響越來越擔憂。這些擔憂包括 AI 可能被用於網路攻擊、製造生物武器，甚至在無人監控的情況下引發自動化犯罪。正是基於這些考量，SB 1047 應運而生，旨在預防這些可能帶來災難性影響的風險。
該法案由加州參議員斯科特·維納（Scott Wiener）提出，並在州議會中獲得了跨黨派支持，最終通過並送交州長簽署。他強調該法案並不是為了限制創新，而是為了確保在技術進步的同時，社會安全也能得到保障。法案的推動還得到了許多知名AI研究者的支持，如「AI之父」之一的 Geoffrey Hinton 和 Yoshua Bengio，他們認為，隨著AI技術的進一步發展，立法規範的制定已經刻不容緩。
SB 1047 的規範和目標
SB 1047 的核心目標是為最先進的AI系統建立一套嚴格的安全標準，以防止這些系統被用於危害社會的目的。具體來說，法案要求AI開發者進行全面的安全測試，確保其模型不會被用於網絡攻擊、生物武器製造等高風險行為。
開發者還必須設置「安全開關」（kill switch），以在緊急情況下能夠迅速關閉系統。此外，法案還規定了應用於AI系統的網路安全措施，以防止未經授權的訪問或修改。
這些規範旨在為AI技術的發展提供一個安全的框架，同時促進技術創新。法案還包括對違規行為的懲罰措施，如對造成實際損害的違規者處以高額罰款，並在必要時關閉有風險的AI系統。這些措施的實施，不僅能夠減少AI技術帶來的風險，也能夠促進技術的安全應用。
與歐盟 AI 法案的比較
與歐盟的AI法案相比，SB 1047 在立法理念和規範內容上有很多相似之處，但也有不少差異。歐盟的AI法案（EU AI Act）更側重於對各類 AI 應用的風險分類，並根據風險級別實施不同程度的監管。而 SB 1047 則集中於對前沿 AI 模型進行嚴格的安全測試和風險防範，並特別針對那些開發成本超過1億美元的大型 AI 系統。
此外，SB 1047在執法機制上更加嚴苛，要求對違規行為進行嚴格處罰，包括高額罰款和系統關停。而歐盟的 AI 法案則更多強調合規性的指導和監管機構的協助，對於違規行為的懲罰相對溫和。這種差異反映了兩個地區在AI技術監管上的不同態度，也可能對全球AI技術的發展帶來不同的影響。
技術產業與開源社群的支持與反對聲音
儘管 SB 1047 獲得了廣泛支持，但也面臨來自技術產業和開源社群的強烈反對。許多大科技公司如 OpenAI 和 Meta 對法案表示擔憂，認為其過於嚴苛的規範可能會阻礙技術創新，特別是對於開源項目來說，這些規定可能會造成嚴重的負面影響。一些業內人士擔心，這樣的法案可能會迫使企業將研發項目遷出加州，從而對該州的技術創新生態系統造成衝擊。
然而，也有部分技術領袖如 Elon Musk 公開支持該法案，認為這是保護社會免受AI潛在風險的一個必要步驟。此外，許多AI安全專家認為，儘管法案可能會帶來一定的經濟成本，但從長遠來看，這些成本是值得的，因為它們可以防止可能帶來巨大社會危害的AI技術的濫用。
公眾意見與政治反應
根據多項民意調查結果顯示，SB 1047在加州民眾中得到了廣泛的支持。根據AI政策研究所的調查，超過 70% 的受訪者表示支持該法案，並認為加州應該率先制定AI安全法規。這表明，隨著AI技術的不斷進步，公眾對其潛在風險的認識也在逐漸提高。
在政治層面，SB 1047 的通過也引發了激烈的辯論。儘管該法案在州議會中獲得了跨黨派支持，但一些共和黨議員和部分民主黨議員[仍對其表示反對](https://finance.yahoo.com/news/california-ai-bill-SB 1047-130000203.html)，認為此類法規應該由聯邦政府統一制定，而不是由各州自行立法。此外，一些政界人士還擔心，過於嚴苛的規範可能會抑制技術創新，進而削弱美國在全球AI競爭中的地位。
法案的時間表
SB 1047 的時間表包括幾個關鍵階段，反映了這項法案的進展和最終通過的過程:
2023年初 - 法案起草和初步討論：在這個階段，參議員斯科特·維納（Scott Wiener）和他的團隊開始起草這項法案，並進行初步的政策討論和利害關係人的協商。
2024年春季 - 提出法案：SB 1047 正式由加州參議院提交，並進入立法程序的最初階段。在這一階段，法案被分配到相應的委員會進行審議和修訂。
2024年夏季 - 委員會審議和修訂：法案經過多次委員會會議，包括公眾聽證會和行業諮詢，根據收到的反饋進行多次修訂。在這一階段，法案中的部分條款根據技術產業和開源社群的意見進行調整。
2024年8月29日 - 加州議會通過：SB 1047 在州參議院和州眾議院進行了表決，並獲得跨黨派支持，最終以29-9的票數通過。
2024年9月 - 提交給州長：法案在州議會通過後被提交給加州州長加文·紐森（Gavin Newsom），等待他的簽署或否決。
2024年9月底之前 - 州長決定：州長紐森必須在9月底之前決定是否簽署該法案成為法律。如果他選擇簽署，該法案將正式成為加州法律。
法案通過的潛在影響
如果 SB 1047 最終成為法律，它將對加州乃至整個美國的AI技術發展產生深遠影響。首先，這將樹立一個新的法規標準，為其他州和聯邦政府提供參考。其次，該法案的通過可能會推動技術產業加強AI安全措施，從而促進技術的安全創新。
然而，法案的通過也可能帶來一些負面影響，如部分企業將研發項目遷出加州，或者對開源社群的發展造成打擊。此外，該法案的嚴苛規定可能會增加技術開發的成本，從而影響中小型企業的生存和發展。這些潛在影響需要在未來的實施過程中得到妥善處理，以平衡技術創新與社會安全之間的關係。
企業應該如何因應？
針對 SB 1047 的規範，AI 相關新創與企業應提前做好以下準備：
安全測試計劃： 制定和實施全面的安全測試計劃，確保AI模型在投入使用前經過嚴格的檢驗，避免可能造成重大危害的風險。
建立「安全開關」機制： 為AI系統設置「安全開關」（kill switch），在發現風險時能夠迅速停止系統運作，防止災難性後果。
遵循網絡安全標準： 確保AI系統符合國家標準與行業最佳實踐，防止未經授權的系統訪問或修改，並保護模型免受惡意用途的影響。
風險評估與管理： 定期進行風險評估，分析AI技術可能造成的潛在危害，並制定應對計劃，以有效管理這些風險。
法律與合規準備： 預先了解和遵守SB 1047的法律要求，確保企業行為符合新法規，並與法律顧問合作，隨時應對可能的法律挑戰。
內部審查與培訓： 進行內部審查以確保所有AI開發過程都符合規範，並為員工提供必要的培訓，使其了解和遵循新的安全和合規標準。
溝通與透明度： 與利益相關者保持溝通，確保他們了解企業在安全方面的舉措，並主動披露相關措施以提高透明度和公眾信任。
制定應急計劃： 準備應急預案，應對可能出現的AI系統失控情況，確保企業能迅速回應並減少潛在的損害。
監控和更新： 持續監控AI系統的運作，並根據最新的技術和法律發展對系統進行更新，確保其始終符合安全和合規要求。
參與政策討論： 積極參與與AI法規相關的政策討論，為制定合理的法律框架提供意見和建議，確保企業利益在立法過程中得到考量。
這些準備措施將有助於幫助企業在 S-1047 實施後，能夠順利遵守法規，同時推動技術創新的安全發展。
結語：AI 開始面對全球法規的影響
隨著歐盟 AI 法案與加州 SB 1047 的通過，全球範圍內的AI法規將進入一個新的階段。這一法案不僅為加州奠定了AI技術監管的基礎，也可能對其他國家和地區的立法進程產生深遠影響。
未來，隨著AI技術的進一步發展，各國政府將面臨如何平衡技術創新與社會安全之間的挑戰。加州作為 AI 監管的先鋒之一，可能將成為全球 AI 法規制定的重要參考。
關於歐盟人工智慧法案 (EU AI Act)
延伸閱讀：
