6月13日消息，知名科學雜志《自然》宣布，將不會刊登使用生成式人工智能工具創(chuàng)作的任何圖像或視頻。隨著這類工具在科學和藝術(shù)領域越來越流行，該雜志擔憂其對科研誠信、知情同意、隱私和知識產(chǎn)權(quán)保護產(chǎn)生影響。

《自然》成立于1869年11月，專門發(fā)表來自不同學科的同行評議研究成果，主要集中于在科學和技術(shù)領域。它是世界上被引用最多、最具影響力的科學期刊之一。

(資料圖片僅供參考)

《自然》表示，由于ChatGPT和Midjourney等生成式人工智能工具的日益普及以及能力不斷提升，經(jīng)過數(shù)月的激烈討論和磋商，該雜志最近決定禁止發(fā)布人工智能生成的內(nèi)容。該雜志稱：“除了專門討論人工智能的文章，《自然》將不會出版人工智能生成的任何圖片、視頻或插圖等內(nèi)容?！?/p>

該雜志認為，論文刊登要符合誠信和透明度的道德準則，其中包括能夠在圖像中標注數(shù)據(jù)來源。

“為什么我們要禁止使用生成式人工智能來制作視覺內(nèi)容呢？歸根結(jié)底，這是一個誠信問題。無論是科學還是藝術(shù)，出版過程都基于對誠信的共同承諾，這包括透明度。作為研究人員、編輯和出版商，我們都需要知道數(shù)據(jù)和圖像的來源，以便驗證它們的準確性和真實性。但現(xiàn)有的生成性人工智能工具無法提供數(shù)據(jù)來源的信息，因此無法進行此類驗證?！?/p>

因此，《自然》雜志稱，藝術(shù)家、電影制作人、插畫家和攝影師等“都將被要求確認他們提交的作品并非由生成性人工智能工具生成或增強”。

《自然》雜志還提到，標注參考文獻是科學的核心原則，但這也是“道德使用”生成式人工智能藝術(shù)作品的另一個障礙。由于人工智能生成的圖像通常是從數(shù)百萬張圖像中合成的，因此標注出處存在困難。

這也涉及到知情同意和授權(quán)的問題，特別是涉及個人身份識別或知識產(chǎn)權(quán)的問題。在這方面，《自然》雜志也指出，生產(chǎn)式人工智能仍存在缺陷，它們通常在沒有獲得必要許可的情況下使用受版權(quán)保護的作品進行訓練。此外還有虛假信息的問題，尤其是Deepfake技術(shù)加速了虛假信息的傳播。

當然，《自然》并不是完全反對使用人工智能工具。該雜志仍將允許收錄使用ChatGPT等輔助生成的文本，但必須附帶適當?shù)奶嵝选＿@些大語言模型(LLM)工具的使用必須在論文的方法或致謝部分有明確說明。此外，作者也必須提供所有數(shù)據(jù)來源，即使是在人工智能協(xié)助下生成的數(shù)據(jù)。另外，《自然》雜志堅定地表示，任何LLM工具都不會被認可為研究論文的作者。

雖然有些出版物偶爾會出于編輯目的，使用帶有明確標記的人工智能生成藝術(shù)品，但要以明顯、非欺騙性的方式為作品服務，而《自然》雜志認為，作為權(quán)威科學期刊，需要非常謹慎地解釋和遵守法律和倫理AI政策，不能留下模糊空間。

《自然》雜志寫道：“許多國家的監(jiān)管和法律體系仍在制定應對生成式人工智能興起的策略。在他們迎頭趕上來之前，作為研究和創(chuàng)意作品的出版商，《自然》雜志的立場仍是拒絕收錄使用生成式人工智能創(chuàng)作的視覺內(nèi)容?！?/p>

然而，隨著生成式人工智能不斷深入地融入到Photoshop等傳統(tǒng)圖像編輯工具中，像《自然》這樣的出版物可能會發(fā)現(xiàn)，很難在人工智能生成藝術(shù)和非人工智能藝術(shù)之間劃清界限。就在最近，Adobe在Photoshop的測試版中引入了生成式人工智能工具，由其Adobe Firefly引擎提供支持。在此之前的幾十年里，Adobe始終在使用人工智能算法為其許多內(nèi)置工具提供動力。

一旦法律系統(tǒng)解決了抓取數(shù)據(jù)訓練AI模型的潛在問題，在使用視覺作品的道德問題上，最重要的因素可能不再是AI技術(shù)的具體實現(xiàn)方式，而是藝術(shù)家或作者的意圖。在這種情況下，《自然》的人工智能政策顯得非常靈活，可以在未來進行調(diào)整：“我們預計，在不久的將來，這個領域會迅速取得進展，因此我們將定期審查這一政策，并在必要時進行調(diào)整?！保ㄐ⌒。?/p>