首頁 > 要聞 > 正文

擔(dān)心傳播不良信息，美政府研究是否監(jiān)管ChatGPT等AI技術(shù)-環(huán)球資訊

2023-04-11 22:47:00來源：澎湃新聞  

美國政府已開始研究是否需要監(jiān)管ChatGPT。

當(dāng)?shù)貢r(shí)間4月11日，據(jù)《華爾街日?qǐng)?bào)》報(bào)道，由于人們?cè)桨l(fā)擔(dān)心ChatGPT等人工智能技術(shù)可能會(huì)被用于歧視或傳播有害信息，拜登政府已經(jīng)開始研究是否需要對(duì)這類工具進(jìn)行限制。


(資料圖片僅供參考)

美國商務(wù)部4月11日就相關(guān)的問責(zé)措施正式公開征求意見，包括具有潛在風(fēng)險(xiǎn)的新型人工智能模型在發(fā)布前是否應(yīng)該進(jìn)行核準(zhǔn)認(rèn)證程序。這被視作是邁出對(duì)人工智能領(lǐng)域?qū)嵭袧撛诒O(jiān)管的第一步。

ChatGPT等人工智能工具可以快速生成類似人類使用的文字、圖像與視頻等。人工智能實(shí)驗(yàn)室OpenAI于2022年11月推出的聊天機(jī)器人ChatGPT，在短短兩個(gè)月內(nèi)活躍用戶達(dá)到1億，成為史上增長最快的消費(fèi)者應(yīng)用程序。

“這些工具即便在起步階段就能做到這些，這真令人驚訝。” 美國商務(wù)部下屬機(jī)構(gòu)國家電信與信息管理局局長艾倫·戴維森（Alan Davidson）說，“我們知道，我們需要設(shè)置一些界限，來確保這些技術(shù)被負(fù)責(zé)任地使用?！?/p>

據(jù)戴維森介紹，征求意見的期限為60天，這些意見有助于向美國的政策制定者提供有關(guān)如何處理人工智能的建議。戴維森補(bǔ)充稱，其所在的機(jī)構(gòu)負(fù)責(zé)就技術(shù)政策向美國總統(tǒng)提供建議，而非撰寫或執(zhí)行法規(guī)。

目前，科技行業(yè)和政府官員已對(duì)人工智能技術(shù)潛在的危害表示擔(dān)憂，包括使用該技術(shù)犯罪或是傳播虛假信息。

美國科羅拉多州民主黨參議員Michael Bennet特別關(guān)心兒童的安全。上個(gè)月，Bennet給幾家人工智能公司寫信，詢問有關(guān)公共實(shí)驗(yàn)的情況。在那些實(shí)驗(yàn)中，聊天機(jī)器人向裝成年輕人的用戶提供了令人不安的建議。

“人工智能到底是能為我們帶來極大的好處，還是造成災(zāi)難性的后果，人們正針對(duì)這個(gè)話題進(jìn)行激烈討論?！?康涅狄格州民主黨參議員Richard Blumenthal在接受采訪時(shí)表示，“這對(duì)國會(huì)來說是終極挑戰(zhàn)，一個(gè)高度復(fù)雜、極具技術(shù)性的挑戰(zhàn)，且事關(guān)重大，極為緊迫?！?/p>

拜登上周在白宮與一個(gè)科學(xué)家顧問委員會(huì)討論了這一話題。當(dāng)有記者問及人工智能技術(shù)是否有危險(xiǎn)時(shí)，拜登表示：“還有待觀察，有可能（有危險(xiǎn)）?！?/p>

據(jù)介紹，顧問委員會(huì)的成員包括來自微軟和谷歌的代表。這兩大科技巨頭和其他發(fā)布人工智能系統(tǒng)的公司表示，他們正不斷更新安全界限，比方說通過編程讓聊天機(jī)器人不回答某些問題。

值得一提的是，當(dāng)?shù)貢r(shí)間4月10日，據(jù)美國數(shù)字新聞網(wǎng)站 Axios報(bào)道，知情人士透露，著名科技投資人Ron Conway的投資公司SV Angel將于4月12日召集舊金人工智能山AI公司的高層討論人工智能政策問題，OpenAI、微軟、谷歌、蘋果、英偉達(dá)、Stability AI、Hugging Face、Anthropic等公司的高管與政策代表將出席該會(huì)議，討論如何負(fù)責(zé)任地開發(fā)AI、分享最好的實(shí)踐案例，并商討相關(guān)的公共政策框架和標(biāo)準(zhǔn)。

就在3月29日，埃隆·馬斯克（Elon Musk）等千名業(yè)界和學(xué)界人士聯(lián)署公開信，呼吁所有人工智能實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)，暫停至少6個(gè)月，以便制定和實(shí)施安全協(xié)議。

據(jù)悉，美國金融部門的監(jiān)管機(jī)構(gòu)已經(jīng)對(duì)貸款機(jī)構(gòu)如何利用人工智能來承銷貸款進(jìn)行調(diào)查，希望防止對(duì)少數(shù)群體的歧視。此外，美國司法部反壟斷部門表示，該部門正在監(jiān)控人工智能領(lǐng)域的競爭。聯(lián)邦貿(mào)易委員會(huì)則警告這些科技公司，它們可能會(huì)因?qū)θ斯ぶ悄墚a(chǎn)品做出虛假的或未經(jīng)證實(shí)的聲明而面臨法律后果。

標(biāo)簽：

相關(guān)閱讀

精彩推薦

相關(guān)詞

推薦閱讀