ChatGPT之父出席聽證會，擁抱AI監(jiān)管互聯(lián)網(wǎng)+
導(dǎo)讀
這一次，輪到OpenAI的CEO山姆·阿爾特曼（Sam Altman），這也是他首次出席美國國會聽證會。
這一次，輪到OpenAI的CEO山姆·阿爾特曼（Sam Altman），這也是他首次出席美國國會聽證會。
尖銳的問題，面對面質(zhì)詢，全程直播，這樣的美國國會聽證會堪比殘酷真人秀，從比爾·蓋茨、扎克伯格，到TikTok的周受資，沒有一個科技大佬可以輕松地“參演”。
這一次，輪到OpenAI的CEO山姆·阿爾特曼（Sam Altman），這也是他首次出席美國國會聽證會。
美東時間5月16日，美國參議院司法機構(gòu)隱私、技術(shù)和法律小組委員會舉行名為“AI監(jiān)管：人工智能的規(guī)則”的聽證會，希望能邁出AI監(jiān)管的第一步。
與會的證人有三位，除了阿爾特曼以外，還有IBM的信任和隱私副總裁克里斯蒂娜·蒙格瑪麗（Christina Montgomery），以及紐約大學(xué)名譽教授加里·馬庫斯（Gary Marcus）。
聽證會一開始，美國國會參議員播放了一段特殊的錄音。錄音中，“他”談?wù)撝鳦hatGPT為代表的新興技術(shù)的風(fēng)險。隨后解釋，該錄音的文本由ChatGPT撰寫，聲音由AI工具合成。
這段演示表明了一種可能：只是用他的聲音討論ChatGPT似乎還好，但如果是談?wù)摓蹩颂m戰(zhàn)爭等問題，這種以假亂真的錄音足以對一位政治人物造成嚴重影響。
自去年11月底OpenAI推出ChatGPT以來，包括大語言模型AI繪畫在內(nèi)的AIGC技術(shù)引發(fā)熱潮。微軟、谷歌等科技頭部企業(yè)展開AI軍備賽，新玩家不斷涌現(xiàn)，資金持續(xù)注入，搜索、繪畫攝影、游戲等多個領(lǐng)域發(fā)生變化。
但問題也如影隨形，ChatGPT們都尚未擺脫的“AI幻覺”使其產(chǎn)生錯誤信息，不良使用下制造的假新聞、換音換臉造假、釣魚郵件等，都成為了AI熱潮中刺耳的噪音。
盡管阿爾特曼對監(jiān)管的呼吁已經(jīng)持續(xù)一段時間，盡管這是一場鮮有答案的“友好討論”、一場AI監(jiān)管的前戲。作為這一切的“始作俑者”O(jiān)penAI的CEO，阿爾特曼雖然不是聽證會的唯一證人，還是注定面臨巨大的壓力。
A
在三個小時的聽證會中，阿爾特曼拿出了十足的誠意。一改往日的休閑風(fēng)格，他身著深藍色西裝出席，對監(jiān)管表達了強烈的歡迎。 “我認為，如果這項技術(shù)跑偏，那將產(chǎn)生大問題。我們希望對此直言不諱。”他表示，“我們希望合作，防止這種情況發(fā)生。” 具體來說，阿爾特曼提出了三點建議： 1.成立一個新的政府機構(gòu)，負責(zé)大型AI模型的授權(quán)，并撤銷不符合政府標(biāo)準的公司的相關(guān)許可證。 2.為AI模型建立一套安全標(biāo)準，包括對其危險性的評估。 3.需要獨立的專家，對模型在各種指標(biāo)上的表現(xiàn)進行獨立審計。 在應(yīng)該制定什么規(guī)則應(yīng)對ChatGPT等工具的問題上，這是阿爾特曼迄今為止最詳細的說法。值得注意的是，阿爾特曼的提議中沒有提到要求人工智能模型提供培訓(xùn)數(shù)據(jù)的透明度，正如在座的另一位專家證人馬庫斯所呼吁的那樣。 在其他問題上，阿爾特曼也是正反話都說，既贊美技術(shù)，也指出威脅。 如ChatGPT們是否會取代人們的工作，阿爾特曼表示這項技術(shù)將自動消除一些工作，但是也會制造出一些新的工作。再如美國大選將近，他對AI操縱人們觀點的可能性表達了擔(dān)憂。 此前，阿爾特曼在不斷強調(diào)這種工具帶給世人的種種好處之外，也多次表達對這種技術(shù)的擔(dān)憂。 在今年3月的采訪中，他表示自己很擔(dān)心ChatGPT被濫用：“既然它們越來越擅長編寫計算機代碼，那么完全可以用于進攻性網(wǎng)絡(luò)攻擊。” 甚至是被“群起而攻之”，阿爾特曼也先點頭再搖頭。 3月底，馬斯克等近千名科技人員簽署公開信，呼吁在未來六個月暫停對GPT模型的訓(xùn)練，以免該模型對社會和人類造成潛在風(fēng)險。并建議如果禁令不能迅速實施，政府應(yīng)該介入。 阿爾特曼在公開信引發(fā)關(guān)注幾周后表態(tài)，稱對信中的部分主旨“真的同意”，但否認了OpenAI在訓(xùn)練GPT-5的消息，并以此反駁信中的技術(shù)細節(jié)。 在這場聽證會上，阿爾特曼堪稱“乖學(xué)生”的典范，在微笑間贊同、補充、自我批評、提建議。 聽證會結(jié)束之后，主持會議的理查德·布魯門薩爾（Richard Blumenthal）表示，阿爾特曼的證詞和其他的那些CEO們相比簡直有“日夜”之別。
“不僅僅是在言辭上，也是在實際行動上，以及他參與和承諾采取具體行動的意愿上。”“一些大型科技公司簽署了法令又違反，這和山姆·阿爾特曼承諾的那種合作相去甚遠。考慮到他的過往記錄，我認為這是相當(dāng)真誠的。”
B
很難說阿爾特曼對監(jiān)管的“熱情擁抱”是真情實感，還是一種合作的姿態(tài)、“以退為守”的策略，抑或二者兼?zhèn)洹?/span> 要說對OpenAI的批評，主要是由同樣是證人的紐約大學(xué)教授馬庫斯提出的。他在聽證會剛開始就引用了OpenAI最初的使命宣言，即不受財務(wù)壓力的約束，推動AI造福全人類。如今，馬庫斯說，OpenAI得“感謝”其投資者微軟。
“企業(yè)不負責(zé)任、部署廣泛、缺乏監(jiān)管以及固有的不可靠性正在形成一場完美風(fēng)暴。”馬庫斯說。值得一提的是，馬庫斯當(dāng)初也在那封呼吁給OpenAI按下暫停鍵的千人公開信上簽了名。
盡管如此，總體來說，這次聽證會的氣氛并不緊張，議員們對阿爾特曼的態(tài)度也很友好。這與阿爾特曼的努力分不開。
阿爾特曼早已采取行動，走動關(guān)系、進行溝通。在3月的采訪中，他已經(jīng)透露自己與一些政府官員保持著聯(lián)系。
本月早些時候，阿爾特曼和谷歌、微軟的CEO一起，與美國副總統(tǒng)卡馬拉·哈里斯（Kamala Harris）見面。而在本次聽證會的前夜，阿爾特曼還私下會見了來自兩黨的大約60名議員。
他與議員們共進晚餐，并向他們介紹和演示ChatGPT。幾位接受CNBC采訪的議員都對阿爾特曼的表現(xiàn)給予了高度的評價。
從AI需要引入監(jiān)管，到應(yīng)該成立獨立的機構(gòu)，阿爾特曼和坐在聽證會另一端的議員們都已經(jīng)有了共識，而這并非聽證會現(xiàn)場的意外之喜。
一個有意思的細節(jié)是，在大多數(shù)問題上，IBM的蒙格瑪麗與阿爾特曼的主張大致相同，比如AI需要被監(jiān)管但不能遏制創(chuàng)新，并呼吁“精準監(jiān)管”AI的具體用例而非技術(shù)本身。
但是在建立新的專門的政府機構(gòu)的問題上，蒙格瑪麗認為沒必要。而這個聲明當(dāng)即遭到了一名參議員的指責(zé)：“我不明白你怎么能說我們不需要一個機構(gòu)來處理最具變革性的技術(shù)。”
在聽證會上，甚至有參議員詢問阿爾特曼是否有資格監(jiān)督聯(lián)邦A(yù)I監(jiān)管機構(gòu)，后者拒絕了，說自己“熱愛現(xiàn)在的工作”，但承諾會向議員發(fā)送一份合適的候選人名單。
《華盛頓郵報》評論這一插曲為“許多參議員似乎急于相信阿爾特曼的自我監(jiān)管能力”。
C
本次聽證會的友好氛圍，也來自于其性質(zhì)本身。這不是一場針對某家企業(yè)的群毆，而是一場意見交流會，美國監(jiān)管方下了新興技術(shù)“釀成大錯”之前就采取行動的決心。 當(dāng)扎克伯格2018年首次坐上國會聽證席時，他的社交媒體平臺Facebook已經(jīng)推出了14年。彼時Facebook身陷“劍橋丑聞”，公司首席技術(shù)官稱有8700萬用戶受影響。 那是兩天10小時的車輪戰(zhàn)，國會議員與扎克伯格處于明顯的對立狀態(tài)。
同樣的對立狀態(tài)也出現(xiàn)在2019年扎克伯格欲發(fā)布Libra幣后的國會聽證會、2020年反壟斷聽證會（集齊了谷歌、Facebook、亞馬遜、蘋果四大科技巨頭），以及前不久TikTok周受資那場充滿政治意味的聽證會等。
再往前追溯，1998年微軟創(chuàng)始人兼時任CEO比爾·蓋茨參加的反壟斷聽證會，更是充滿矛盾和拉扯，甚至差點導(dǎo)致微軟被分拆。
如今美國的立法者們看到了PC、移動互聯(lián)網(wǎng)之后又一波科技浪潮，這一次他們想追上AI，以免重蹈覆轍。
在社交媒體時代的行動不及時與不足，成為了美國監(jiān)管方的一塊心病。整場聽證會，不同的議員反復(fù)表達著后悔。
“230條款”在聽證會中也被多次提及。該條款來自1996年美國《通訊規(guī)范法》，多年來為科技企業(yè)提供了法律保護。其主要有兩方面，一是互聯(lián)網(wǎng)公司無需為用戶發(fā)布的內(nèi)容擔(dān)責(zé)，二是社交媒體即使刪除一些其認為令人反感或不恰當(dāng)?shù)膬?nèi)容，也不會受到懲罰。
“其結(jié)果是互聯(lián)網(wǎng)上充斥有毒內(nèi)容、剝削兒童、為他們制造危險。國會未能在社交媒體上把握時機。現(xiàn)在，我們有機會在威脅和風(fēng)險成為現(xiàn)實之前，在AI方面做到這一點。”參議員布魯門薩爾表示。
關(guān)鍵企業(yè)呼吁監(jiān)管、立法者有監(jiān)管共識，看起來一切向好。但實際上，美國國會要落實本次聽證會提出的監(jiān)管建議極具挑戰(zhàn)性。
過去，對科技企業(yè)的監(jiān)管問題屢屢受到不同黨派政治分歧的影響，例如“230條款”是抹去還是更新、怎么更新，至今都沒有定論。
對于阿爾特曼來說，最殘酷的真人秀“首演”已經(jīng)完美落幕，至于AI監(jiān)管究竟會去向何方，還有很長的路要走。
美東時間5月16日，美國參議院司法機構(gòu)隱私、技術(shù)和法律小組委員會舉行名為“AI監(jiān)管：人工智能的規(guī)則”的聽證會，希望能邁出AI監(jiān)管的第一步。
與會的證人有三位，除了阿爾特曼以外，還有IBM的信任和隱私副總裁克里斯蒂娜·蒙格瑪麗（Christina Montgomery），以及紐約大學(xué)名譽教授加里·馬庫斯（Gary Marcus）。
聽證會一開始，美國國會參議員播放了一段特殊的錄音。錄音中，“他”談?wù)撝鳦hatGPT為代表的新興技術(shù)的風(fēng)險。隨后解釋，該錄音的文本由ChatGPT撰寫，聲音由AI工具合成。
這段演示表明了一種可能：只是用他的聲音討論ChatGPT似乎還好，但如果是談?wù)摓蹩颂m戰(zhàn)爭等問題，這種以假亂真的錄音足以對一位政治人物造成嚴重影響。
自去年11月底OpenAI推出ChatGPT以來，包括大語言模型AI繪畫在內(nèi)的AIGC技術(shù)引發(fā)熱潮。微軟、谷歌等科技頭部企業(yè)展開AI軍備賽，新玩家不斷涌現(xiàn)，資金持續(xù)注入，搜索、繪畫攝影、游戲等多個領(lǐng)域發(fā)生變化。
但問題也如影隨形，ChatGPT們都尚未擺脫的“AI幻覺”使其產(chǎn)生錯誤信息，不良使用下制造的假新聞、換音換臉造假、釣魚郵件等，都成為了AI熱潮中刺耳的噪音。
盡管阿爾特曼對監(jiān)管的呼吁已經(jīng)持續(xù)一段時間，盡管這是一場鮮有答案的“友好討論”、一場AI監(jiān)管的前戲。作為這一切的“始作俑者”O(jiān)penAI的CEO，阿爾特曼雖然不是聽證會的唯一證人，還是注定面臨巨大的壓力。
A
在三個小時的聽證會中，阿爾特曼拿出了十足的誠意。一改往日的休閑風(fēng)格，他身著深藍色西裝出席，對監(jiān)管表達了強烈的歡迎。 “我認為，如果這項技術(shù)跑偏，那將產(chǎn)生大問題。我們希望對此直言不諱。”他表示，“我們希望合作，防止這種情況發(fā)生。” 具體來說，阿爾特曼提出了三點建議： 1.成立一個新的政府機構(gòu)，負責(zé)大型AI模型的授權(quán)，并撤銷不符合政府標(biāo)準的公司的相關(guān)許可證。 2.為AI模型建立一套安全標(biāo)準，包括對其危險性的評估。 3.需要獨立的專家，對模型在各種指標(biāo)上的表現(xiàn)進行獨立審計。 在應(yīng)該制定什么規(guī)則應(yīng)對ChatGPT等工具的問題上，這是阿爾特曼迄今為止最詳細的說法。值得注意的是，阿爾特曼的提議中沒有提到要求人工智能模型提供培訓(xùn)數(shù)據(jù)的透明度，正如在座的另一位專家證人馬庫斯所呼吁的那樣。 在其他問題上，阿爾特曼也是正反話都說，既贊美技術(shù)，也指出威脅。 如ChatGPT們是否會取代人們的工作，阿爾特曼表示這項技術(shù)將自動消除一些工作，但是也會制造出一些新的工作。再如美國大選將近，他對AI操縱人們觀點的可能性表達了擔(dān)憂。 此前，阿爾特曼在不斷強調(diào)這種工具帶給世人的種種好處之外，也多次表達對這種技術(shù)的擔(dān)憂。 在今年3月的采訪中，他表示自己很擔(dān)心ChatGPT被濫用：“既然它們越來越擅長編寫計算機代碼，那么完全可以用于進攻性網(wǎng)絡(luò)攻擊。” 甚至是被“群起而攻之”，阿爾特曼也先點頭再搖頭。 3月底，馬斯克等近千名科技人員簽署公開信，呼吁在未來六個月暫停對GPT模型的訓(xùn)練，以免該模型對社會和人類造成潛在風(fēng)險。并建議如果禁令不能迅速實施，政府應(yīng)該介入。 阿爾特曼在公開信引發(fā)關(guān)注幾周后表態(tài)，稱對信中的部分主旨“真的同意”，但否認了OpenAI在訓(xùn)練GPT-5的消息，并以此反駁信中的技術(shù)細節(jié)。 在這場聽證會上，阿爾特曼堪稱“乖學(xué)生”的典范，在微笑間贊同、補充、自我批評、提建議。 聽證會結(jié)束之后，主持會議的理查德·布魯門薩爾（Richard Blumenthal）表示，阿爾特曼的證詞和其他的那些CEO們相比簡直有“日夜”之別。
“不僅僅是在言辭上，也是在實際行動上，以及他參與和承諾采取具體行動的意愿上。”“一些大型科技公司簽署了法令又違反，這和山姆·阿爾特曼承諾的那種合作相去甚遠。考慮到他的過往記錄，我認為這是相當(dāng)真誠的。”
B
很難說阿爾特曼對監(jiān)管的“熱情擁抱”是真情實感，還是一種合作的姿態(tài)、“以退為守”的策略，抑或二者兼?zhèn)洹?/span> 要說對OpenAI的批評，主要是由同樣是證人的紐約大學(xué)教授馬庫斯提出的。他在聽證會剛開始就引用了OpenAI最初的使命宣言，即不受財務(wù)壓力的約束，推動AI造福全人類。如今，馬庫斯說，OpenAI得“感謝”其投資者微軟。
“企業(yè)不負責(zé)任、部署廣泛、缺乏監(jiān)管以及固有的不可靠性正在形成一場完美風(fēng)暴。”馬庫斯說。值得一提的是，馬庫斯當(dāng)初也在那封呼吁給OpenAI按下暫停鍵的千人公開信上簽了名。
盡管如此，總體來說，這次聽證會的氣氛并不緊張，議員們對阿爾特曼的態(tài)度也很友好。這與阿爾特曼的努力分不開。
阿爾特曼早已采取行動，走動關(guān)系、進行溝通。在3月的采訪中，他已經(jīng)透露自己與一些政府官員保持著聯(lián)系。
本月早些時候，阿爾特曼和谷歌、微軟的CEO一起，與美國副總統(tǒng)卡馬拉·哈里斯（Kamala Harris）見面。而在本次聽證會的前夜，阿爾特曼還私下會見了來自兩黨的大約60名議員。
他與議員們共進晚餐，并向他們介紹和演示ChatGPT。幾位接受CNBC采訪的議員都對阿爾特曼的表現(xiàn)給予了高度的評價。
從AI需要引入監(jiān)管，到應(yīng)該成立獨立的機構(gòu)，阿爾特曼和坐在聽證會另一端的議員們都已經(jīng)有了共識，而這并非聽證會現(xiàn)場的意外之喜。
一個有意思的細節(jié)是，在大多數(shù)問題上，IBM的蒙格瑪麗與阿爾特曼的主張大致相同，比如AI需要被監(jiān)管但不能遏制創(chuàng)新，并呼吁“精準監(jiān)管”AI的具體用例而非技術(shù)本身。
但是在建立新的專門的政府機構(gòu)的問題上，蒙格瑪麗認為沒必要。而這個聲明當(dāng)即遭到了一名參議員的指責(zé)：“我不明白你怎么能說我們不需要一個機構(gòu)來處理最具變革性的技術(shù)。”
在聽證會上，甚至有參議員詢問阿爾特曼是否有資格監(jiān)督聯(lián)邦A(yù)I監(jiān)管機構(gòu)，后者拒絕了，說自己“熱愛現(xiàn)在的工作”，但承諾會向議員發(fā)送一份合適的候選人名單。
《華盛頓郵報》評論這一插曲為“許多參議員似乎急于相信阿爾特曼的自我監(jiān)管能力”。
C
本次聽證會的友好氛圍，也來自于其性質(zhì)本身。這不是一場針對某家企業(yè)的群毆，而是一場意見交流會，美國監(jiān)管方下了新興技術(shù)“釀成大錯”之前就采取行動的決心。 當(dāng)扎克伯格2018年首次坐上國會聽證席時，他的社交媒體平臺Facebook已經(jīng)推出了14年。彼時Facebook身陷“劍橋丑聞”，公司首席技術(shù)官稱有8700萬用戶受影響。 那是兩天10小時的車輪戰(zhàn)，國會議員與扎克伯格處于明顯的對立狀態(tài)。
同樣的對立狀態(tài)也出現(xiàn)在2019年扎克伯格欲發(fā)布Libra幣后的國會聽證會、2020年反壟斷聽證會（集齊了谷歌、Facebook、亞馬遜、蘋果四大科技巨頭），以及前不久TikTok周受資那場充滿政治意味的聽證會等。
再往前追溯，1998年微軟創(chuàng)始人兼時任CEO比爾·蓋茨參加的反壟斷聽證會，更是充滿矛盾和拉扯，甚至差點導(dǎo)致微軟被分拆。
如今美國的立法者們看到了PC、移動互聯(lián)網(wǎng)之后又一波科技浪潮，這一次他們想追上AI，以免重蹈覆轍。
在社交媒體時代的行動不及時與不足，成為了美國監(jiān)管方的一塊心病。整場聽證會，不同的議員反復(fù)表達著后悔。
“230條款”在聽證會中也被多次提及。該條款來自1996年美國《通訊規(guī)范法》，多年來為科技企業(yè)提供了法律保護。其主要有兩方面，一是互聯(lián)網(wǎng)公司無需為用戶發(fā)布的內(nèi)容擔(dān)責(zé)，二是社交媒體即使刪除一些其認為令人反感或不恰當(dāng)?shù)膬?nèi)容，也不會受到懲罰。
“其結(jié)果是互聯(lián)網(wǎng)上充斥有毒內(nèi)容、剝削兒童、為他們制造危險。國會未能在社交媒體上把握時機。現(xiàn)在，我們有機會在威脅和風(fēng)險成為現(xiàn)實之前，在AI方面做到這一點。”參議員布魯門薩爾表示。
關(guān)鍵企業(yè)呼吁監(jiān)管、立法者有監(jiān)管共識，看起來一切向好。但實際上，美國國會要落實本次聽證會提出的監(jiān)管建議極具挑戰(zhàn)性。
過去，對科技企業(yè)的監(jiān)管問題屢屢受到不同黨派政治分歧的影響，例如“230條款”是抹去還是更新、怎么更新，至今都沒有定論。
對于阿爾特曼來說，最殘酷的真人秀“首演”已經(jīng)完美落幕，至于AI監(jiān)管究竟會去向何方，還有很長的路要走。
1.TMT觀察網(wǎng)遵循行業(yè)規(guī)范，任何轉(zhuǎn)載的稿件都會明確標(biāo)注作者和來源；
2.TMT觀察網(wǎng)的原創(chuàng)文章，請轉(zhuǎn)載時務(wù)必注明文章作者和"來源：TMT觀察網(wǎng)"，不尊重原創(chuàng)的行為TMT觀察網(wǎng)或?qū)⒆肪控?zé)任；
3.作者投稿可能會經(jīng)TMT觀察網(wǎng)編輯修改或補充。
