本文來自微信公眾號：德外5號（ID：dewaiwuhao），作者：呂菁，原文標(biāo)題：《<衛(wèi)報>對AIGC的態(tài)度：我們所做的不能合成復(fù)制 | 德外視窗》，頭圖來自：視覺中國

(資料圖)

在面對生成式AI帶來的變革面前，《衛(wèi)報》管理高層對生成式AI的態(tài)度和原則值得參考。

“在理想狀態(tài)下，它真的令人眼花繚亂。但它也有一些缺點(diǎn)?！薄缎l(wèi)報》編輯創(chuàng)新主管克里斯·莫蘭（Chris Moran）用一句話簡潔地總結(jié)了大多數(shù)記者、編輯和新聞主管對ChatGPT等新技術(shù)的看法。這些缺點(diǎn)可能會對新聞業(yè)帶來嚴(yán)重的威脅。

但同時，莫蘭也認(rèn)為生成式AI的應(yīng)用實(shí)踐讓他“對新聞給世界帶來的價值感到非常樂觀”。因?yàn)橥ㄟ^研究生成式AI的作用機(jī)制，會進(jìn)一步證實(shí)新聞工作的重要性，它不能被簡單的合成復(fù)制所取代。

制造幻象：“不能忽視AI工具會編造事實(shí)”

ChatGPT 以及其他生成式AI工具會通過編造信息，或?yàn)榱丝偨Y(jié)內(nèi)容而引入原文本中沒有的“事實(shí)”來制造“幻象”。北歐媒體公司Schibsted已經(jīng)在實(shí)際使用中證明了這一點(diǎn)。生成式AI在撰寫文章摘要的過程中會編造原文中沒有的信息，這樣做的概率每十次中就有一次。

同樣，衛(wèi)報也遭遇過類似事件。有研究人員使用ChatGPT開展研究時，ChatGPT引用了《衛(wèi)報》指定記者多年前撰寫的一篇文章。然而《衛(wèi)報》工作人員通過檔案檢索，甚至查閱了已刪除文檔，都找不到這篇文章存在過痕跡。因?yàn)?，這篇文章根本就不存在，它只是AI生造的“幻象”而已。

莫蘭不否認(rèn)生成式AI技術(shù)非常令人興奮，但作為記者“你真的不能忽視它會編造內(nèi)容的事實(shí)?！?/strong>這類型的幻象問題到底會隨著技術(shù)的發(fā)展得到解決，還是會成為生成式AI應(yīng)用過程中不可避免的一部分，人們對此爭論不休。對于許多新聞媒體來說，這個問題不克服會使生成式AI難以成為可信賴的信息來源。

莫蘭指出，谷歌在測試中，預(yù)計將把生成式AI巴德（Bard）整合到搜索當(dāng)中，同時，谷歌對其提供的搜索結(jié)果也發(fā)出了“巴德可能會顯示不準(zhǔn)確或冒犯性的信息，這些信息不代表谷歌的觀點(diǎn)?！钡木?。

莫蘭對于這種做法持質(zhì)疑態(tài)度，“我認(rèn)為，作為一家高質(zhì)量的新聞機(jī)構(gòu)，必須冷靜地思考一些根本性的問題，關(guān)于新聞機(jī)構(gòu)是否可以在現(xiàn)有條件下部署運(yùn)用生成式AI?！?/p>

集體談判：重估媒體的價值

新聞集團(tuán)首席執(zhí)行官羅伯特·湯姆森（Robert Thomson）認(rèn)為，媒體行業(yè)的“集體知識產(chǎn)權(quán)正受到威脅”，新聞媒體應(yīng)該“大聲主張賠償”。為解決這一爭端，全球最大的科技公司正在與主要媒體進(jìn)行談判，希望達(dá)成具有里程碑意義的交易。

關(guān)于威脅的由來，莫蘭解釋道：“當(dāng)微軟、谷歌和其他公司將AI工具與搜索引擎相嫁接時，人們會期待它能搜索出清晰而準(zhǔn)確的答案，而這可能會導(dǎo)致生成式AI編造虛假新聞?！盇I工具甚至還可能將這些憑空產(chǎn)生的新聞扣上《衛(wèi)報》《泰晤士報》或是《紐約時報》的“帽子”。這勢必對信息生態(tài)系統(tǒng)的健康產(chǎn)生負(fù)面影響，也會損害新聞機(jī)構(gòu)的品牌信譽(yù)。

不僅如此，生成式AI還將新聞內(nèi)容剝離新聞網(wǎng)站直接提供給用戶，致使新聞行業(yè)的商業(yè)模式遭到破壞。像這樣白白為他人做嫁衣的事，新聞行業(yè)在接入互聯(lián)網(wǎng)的早期已經(jīng)遭遇過一次了。當(dāng)時新聞機(jī)構(gòu)提供的免費(fèi)新聞被無償引入搜索引擎或社交媒體，而谷歌和Facebook等大型科技公司卻憑借這些信息發(fā)展起數(shù)十億美元的廣告平臺。

此外，《衛(wèi)報》已經(jīng)運(yùn)營了一個API（Application Programming Interface，應(yīng)用程序編程接口）好幾年了，人們可以通過該API付費(fèi)獲取其內(nèi)容流，但從來沒有AI公司聯(lián)系要求使用它。莫蘭說，《衛(wèi)報》正在“思考我們的內(nèi)容在這種環(huán)境中的價值”，并補(bǔ)充道“可以肯定的是，新聞媒體在這些常見爬蟲數(shù)據(jù)集中起到了非常重要的作用”。

英國《金融時報》6月報道稱，包括新聞集團(tuán)（News Corp）、阿克塞爾·斯普林格（Axel Springer）、《紐約時報》（New York Times）和《衛(wèi)報》（The Guardian）在內(nèi)的新聞媒體正在與科技公司討論在聊天機(jī)器人中使用其內(nèi)容的版權(quán)和付費(fèi)問題。談判的議題不止局限在利益分配上，還包括新聞機(jī)構(gòu)如何與生成式AI公司合作的具體事宜。

“版權(quán)對所有媒體來說都是一個至關(guān)重要的問題，”英國《金融時報》表示也在就此事進(jìn)行談判?！白鳛橐患矣嗛喥髽I(yè)，我們需要保護(hù)我們的新聞和商業(yè)模式的價值。像我們一樣，與相關(guān)公司進(jìn)行建設(shè)性對話是實(shí)現(xiàn)這一目標(biāo)的最佳方式。”

《衛(wèi)報》的人工智能使用原則

為了應(yīng)對AI帶來的風(fēng)險和機(jī)遇，《衛(wèi)報》成立了一個 Guardian AI 工作組，在6月發(fā)布了三條AI原則，闡明《衛(wèi)報》將如何使用或不使用生成式AI工具。

1.為了讀者的利益

由于生成式AI目前并不可靠，所以《衛(wèi)報》考慮僅在有助于原創(chuàng)新聞的創(chuàng)建和分發(fā)的情況下，在編輯中使用生成式AI工具。同時還要謹(jǐn)防嵌入在AI工具的底層調(diào)校中的偏見。在以任何方式使用生成式AI之前，《衛(wèi)報》記者必須明確這樣做對讀者有益，并獲得高級編輯的認(rèn)可，并將使用痕跡向讀者公開。

2.為了我們的使命、我們的員工和更廣泛的組織的利益

衛(wèi)報將致力于讓生成式AI提高工作效率，例如幫助記者訪問大型數(shù)據(jù)集，為同事們提供修正建議，為營銷活動提供創(chuàng)意，或減少過度耗時的官僚主義業(yè)務(wù)流程。所有對AI工具的使用都必須以促進(jìn)《衛(wèi)報》使命達(dá)成為目標(biāo)：“嚴(yán)肅的報道需要花費(fèi)時間和精力，仔細(xì)揭露事實(shí)，讓有權(quán)勢的人承擔(dān)責(zé)任，對想法和論點(diǎn)提出質(zhì)疑”。

3.尊重內(nèi)容的創(chuàng)作者和版權(quán)擁有者

許多生成式AI模型都是不透明的系統(tǒng)，這些系統(tǒng)是在未經(jīng)創(chuàng)建者知情或同意的情況下收集材料并進(jìn)行訓(xùn)練的?！缎l(wèi)報》考慮使用工具和模型的指導(dǎo)原則是它們在多大程度上考慮了權(quán)限、透明度和公平獎勵等關(guān)鍵問題。即便以任何形式使用生成式AI，也不代表《衛(wèi)報》要放棄追溯版權(quán)的訴求。

盡管制定了這些原則，但《衛(wèi)報》尚未以任何方式將生成式AI工具添加到新聞采編過程中。對此，莫蘭的解釋是，《衛(wèi)報》不希望只是為了追求新鮮感而使用生成式AI。

目前新聞機(jī)構(gòu)對生成式AI能否提升效率尚存在爭議。因?yàn)樗鼰o法在沒有人類參與的情況下實(shí)現(xiàn)自動化，并且其內(nèi)容的真實(shí)與準(zhǔn)確性還需要人工核查，那么它的實(shí)際生產(chǎn)效率就會下降。

更為重要的一點(diǎn)是，為抵御合成內(nèi)容的巨浪，避免被其吞噬，我們最不應(yīng)該放棄的就是作為訓(xùn)練有素的記者和編輯應(yīng)有的專業(yè)性，因?yàn)槲覀兪侨祟悺?/strong>

所以，衛(wèi)報正在尋找更多的案例，明確哪些是AI工具能做而我們不能做的，以及AI工具能為解放專業(yè)人士的創(chuàng)造性生產(chǎn)力做好哪些基礎(chǔ)性工作等等。

衛(wèi)報工作人員沒有部署AI工具的壓力

關(guān)于《衛(wèi)報》何時會在新聞編輯部中部署AI工具，莫蘭表示，在新聞生產(chǎn)環(huán)境中部署一種模型，尤其是在IP會話的背景下，這是一個重大決定。由于現(xiàn)在缺乏具有充分說服力和變革性的有效案例，所以現(xiàn)在并不是部署AI工具的好時機(jī)。一些本質(zhì)性的問題需要找到答案，比如AI工具是如何工作的？對讀者有好處嗎？它參與的痕跡能被分離出來嗎？無論付出怎樣的代價都值得嗎？

當(dāng)員工準(zhǔn)備在具體工作中使用生成式AI工具之前，首要考慮的是教會他們鑒別使用AI工具的潛在風(fēng)險，例如了解點(diǎn)擊“使其更簡潔”按鈕可能會導(dǎo)致的后果。莫蘭透露，《衛(wèi)報》已經(jīng)向英國、美國和澳大利亞新聞編輯部的270人進(jìn)行了演示，他們最終將制作一些類似員工社交媒體指南的內(nèi)容，規(guī)范員工在社交媒體的行為。

“就常規(guī)工作而言，接受AI工具的應(yīng)用教育比做成一件具體的事更重要?！?/strong>莫蘭說。新聞機(jī)構(gòu)的AI工具應(yīng)用抉擇需要對記者、設(shè)計師和攝影師們負(fù)責(zé)，因?yàn)樗麄兊墓ぷ骱芸赡軙艿缴墒紸I的影響。

莫蘭認(rèn)為，AI工具的應(yīng)用也許會提高工作效率，但這樣做還為時尚早，因?yàn)樗€不值得信賴。所以應(yīng)該更審慎地作出決定。對于AI工具的應(yīng)用將會如何影響新聞行業(yè)的發(fā)展，現(xiàn)在還沒有定論。誰也難以保證它會讓一切變得更好，抑或演變?yōu)橐粓鰹?zāi)難。

“可以肯定的是，隨著技術(shù)的進(jìn)步發(fā)展，未來的某一天，它將徹底地改變我們的工作?！蹦m說。

本文來自微信公眾號：德外5號（ID：dewaiwuhao），作者：呂菁