公开信
最近全球都在为AI 的巨大进步欢呼,大众普遍沉浸在享受科技进步的浪潮里。然而就在今年3月, 生命未来研究所(Future of Life Institute) 向全社会发布了一封《暂停大型人工智能研究》的公开信,信的内容令人不寒而栗, 看到信的一瞬间让人联想《三体》里两个文明初次接触时,来自对方的警告:不要回答!不要回答 !不要回答!
公开信部分原文是这样陈述的: 现在,人工智能在一般任务上变得与人类有竞争力, 我们必须问自己:
我们应该让机器在信息渠道中宣传不真实的信息吗?我们是否应该把所有的工作都自动化,包括那些有成就感的工作?我们是否应该开发非人类的大脑,使其最终超过人类数量,胜过人类的智慧,淘汰并取代人类?我们是否应该冒着失去对我们文明控制的风险?
我们呼吁所有人工智能实验室立即暂停比 GPT-4 更强大的人工智能系统的训练,时间至少持续6个月。
假新闻
「为了引起轰动,一家报纸可以刊印任何传闻,无论真假,不会有人在乎细 节……这些人懂得,假新 闻和针对它的辟谣是两件事。唯一重要的真相,就是销量。」 —— 巴尔扎克《幻灭》
2022 年法国凯撒奖最佳影片《幻灭》,改编自法国文豪巴尔扎克的同名小说,讲的是一百多年前的故事。巴尔扎克对当时巴黎的新闻人好一顿嘲讽,说这群人将报社变成商店,以报道和观点做商品,向公众出售一切他们想听的。
现在看来,媒体似乎并没有什么改变,区别或仅在于:以新闻报道操纵受众情绪的已经不只是媒体从业者爱干的事,所有能从中取利的群体都不会放过这个话语权。
如是背景下,一本由子虚乌有的「假新闻图片」编纂而成的书籍,捧回了一座荷赛奖——世界新闻摄 影比赛,国际最权威专业新闻摄影赛事——是不是充满了讽刺与荒诞? 挪威摄影师乔纳斯·本迪克森(Jonas Bendiksen) 的这本《韦莱斯之书》,故事核心来自北马其顿韦莱斯市,世界闻名的「假 新闻工厂」。 这 算,假 新 闻 的 Double Kill?「不知真假的新闻,和接踵而至同样不知真假的辟谣,最近成了我们生活里新的日常。」 「就像你们所说的‘美国梦’一样」 或许乔纳斯·本迪克森自己都没想到,玩笑能开到这么大。
作为马格南图片社(著名国际摄影合作社,由摄影师成员共建共有)摄影师、前总裁,乔纳斯已经拿过 2 次荷赛奖。起初,他是真的想去那座著名的韦莱斯市,拍一拍正在生产假新闻的年轻人。 「在整个特朗普时代,我对舆论场中充斥谎言和错误信息感到沮丧。某一天, 我看到有人提到2016 年特朗普大选期间喷薄而出的假新闻,起源于韦莱斯市,甚至奥巴马也提到这个小镇。我突然为遥远 的北马其顿青少年在美国政治格局中发挥作用这一点着迷。他们的意图甚至是非政治性的:在一个年 轻人普遍失业的小镇上赚点钱。」这是一个关于制造假新闻的真新闻。
韦莱斯
「韦莱斯市曾经为整个南 斯拉夫制造瓷器。现在它制造假新闻。」在新闻纪录片《假新闻工厂:备战 2020 年美国大选(The fake news machine: inside a town gears up for 2020)》 里,CNN 这样介绍韦莱斯市。 过去,这座城市曾为纪念南斯拉夫前总统铁托而被命名为铁托·韦莱斯,但自从支柱产业衰落后,一直就挣扎在破产边缘。1991年南斯拉夫解体后,城市经济每况愈下。 城市整天被乌沉沉的工业废气和雾气笼罩,随手一拍,就带着一股废弃游乐园似的阴森和忧郁。
年轻人对未来毫无指望且极度迷茫,直到他们中某些人突然发现了假新闻这门大生意。 据《卫报》统计,2016年韦莱斯至少有140多个有据可查的假新闻网站在运营,其中包含7个大型团队,和数百名单打独斗的独行侠。但当地造假者认为,假新闻网站的实际数量远超这一统计。 「假新闻」工厂的运作模式非常简单:建立一个新闻网站,编辑一些假新闻塞进去,给它们起个诱人的标题,然后把标题发布在社交媒体上引流。只要你收到的点击量够多,都会通过广告收入,获得极为可观的收益。 这种生产方式,看过国内关于山东新媒体村报道的人们并不陌生。事实证明,海量 + 快速的模式在互联网世界里总有奇效。
韦莱斯市名(Veles)的由来,令乔纳斯有了一个疯狂的想法。 韦莱斯神(Veles) 是斯拉夫原始自然宗教神祗,混沌、魔法和欺骗之神,关于他的故事被记载在一本 早期斯拉夫民族的史诗故 事《韦莱斯之书》中。在传说中,韦莱斯神常常变成熊或牛的形象,游荡在 山野之间。
「据传这本书是由一位名叫伊岑贝克的俄罗斯军官于1919年在烧毁的木板 上发现的,另一位叫尤里 · 米罗柳博夫的俄罗斯科学家破译了木板上西里 尔字母的铭文后,发现它是来自被斯拉夫民族主义视为‘圣经’的一段经文。」在马格南图片社对他的采 访中,乔纳斯说,「但今天,大多数历史学家和语 言学家得出结论, 整本《韦莱斯之书》是伊岑贝克和米罗柳博夫在(特殊历史 时期)制造的赝品。」 欺骗之神、伪经、「假新闻工厂」……乔纳斯决定加入其中,做一本关于 Veles 的假新闻书:「这些东西并不真正相关,但仍然如此偶然地通过名字联系在一起。什么是真的? 什么是假的?」
造假的过程并不算复杂。首先在 YouTube上快速学习了一下电脑游戏和电影行业常用的3D建模软件,然后购买了一些人物手办, 给它们穿上衣服,创造出 一系列不同的角色。只需要拍摄空的场景 , 将这些照片转换成3D空间 . 最终, 一张优质的「新闻」图片新鲜出炉。
书中看似来自现场采访的配文,也全都是假的。「我一个字也没有写。」乔纳斯得意地说。他把英文媒体中所有关于韦莱斯「假新闻工厂」的报道和他在韦莱斯的采访资 w 料,统统输入一个 AI文本系统, 再将系统生成的文本挑拣剪裁一下—— 这些文字的炮制过程,比图片更简单。 2021年4 月,乔纳斯版《韦 莱斯之书》在英国正式出版。
The origin of Veles made Jonas have a crazy idea.
Veles is a primitive Slavic natural religion deity, a god of chaos, magic, and deception. His story is recorded in an early Slavic epic story called "The Book of Veles". In legend, the god Veles often transformed into the image of a bear or cow, wandering among the mountains and fields.
"It is said that this book was found by a Russian officer named Izenbeck on the burned wood in 1919. Another Russian scientist named Yuri Miroliubov cracked the inscription of Cyrillic script on the wood and found that it was from a scripture that Slavic nationalism regarded as the 'Bible'." Jonas said in an interview with Magnum Pictures, But today, most historians and linguists have come to the conclusion that the entire book of Veles is a forgery created by Itzenbeck and Mirolyubov during a special historical period
The god of deception, the apocrypha, the "Fake news factory"... Jonas decided to join in and make a Fake news book about Veles: "These things are not really related, but they are still so accidentally linked by names. What is true? What is false?"
The process of counterfeiting is not complicated. Firstly, I quickly learned about 3D modeling software commonly used in computer games and film industries on YouTube, and then purchased some character toys to dress them and create a series of different characters. Just take empty scenes and convert these photos into 3D space In the end, a high-quality "news" image was freshly released.
The supporting passages in the book that appear to come from on-site interviews are all fake. I haven't written a word, "Jonas said proudly. He input all the reports on Veles' "Fake news factory" in the English media and his interviews in Veles into an AI text system, and then select and trim the text generated by the system - the process of processing these words is simpler than pictures. In April 2021, the Jonas edition of 'The Book of Welles' was officially published in the UK.
论点
「幸好这个时代,还有人在做这样的严肃新闻。」一位读者在推特上写道。
哪怕乔纳斯故意报名业内顶级的国际新闻摄影节, 希望有专业人士来揭穿自己的骗局,《韦莱斯之书》 都没受到半点质疑,反而得到了摄影节的展映邀请……
直到去年 9 月,用了半年时间,在他百般暗示(包括不限于用小号自黑)下, 乔纳斯才等来了有人识破诡计。他立刻通过马格南图片社对全世界细致地「坦白作案全过程」:「韦莱斯成为‘假新闻工厂’的故事是真实的;《韦莱斯 之书》中的故事是真实的, 但(书里)所有内容实际上都是假的。」 自曝作假之后,《韦莱斯 之书》却迎来了「荒诞」的高潮结局。今年 3 月,第 65 届荷赛奖将欧洲大 区的「开放形式」奖,授予了乔纳斯和他的这本伪作。
趋势
今时今日,仅凭常识去辨别一条假新闻,几乎已经成了一件不可能的任务。 「让新闻飞一会」「辟谣」「反转」……几乎成为常态。
依靠传统采编机制才能尽可能保证信息可信的专业媒体已经权威不在,权力被让渡给了算法。结果是,辨别信息轻重、真伪,需要受众自己去解决—— 而大多数人,并不具备运用图片反搜、时间反溯等多种手法进行信息甄别的能力。
截止目前,包括马斯克、 苹果联 合创始人Steve Wozniak、Stability AI 创始人等上千名科技大佬已经签署公开信 虽然不知道不足一月的时间里发生了什么,但能从这份公开信感受到: AI 技术发展已经快到让人类感到害怕了。
就像我们能理解宠物狗会模仿人类握手,但有一天它突然开口讲话就很可怕了,因为在我们认知里狗是更低维智慧的生物,会握手也只是自己教会的,我们理解不了它是怎么会说话的。而现在AI的发展似乎已经展现了这类“不可解释”的能力。
“人工智能教父”杰弗里·辛顿在最新的采访中表示,人工智能可能发展到对人类构成威胁“并非不可想象”的地步,OpenAI CEO Sam Altman 在最近也指出: AI 已经出现其无法解释的推理能力,同时承认“AI 杀死人类”有一定可能…
要知道ChatGPT4.0 是在去年 8 月份就训练完成的,在半年多后我们才得以见面,所以合理猜测现在更强大的ChatGPT5.0 已经 在开发中了,5.0会带来怎么样的震撼,而科技界一致叫停 AI 实验是否和已经看到了5.0雏形有关, 我们还不得而知 ..
最后摘取公开信最后这样一句话: “让我们享受一个漫长的人工智能夏天,而不是匆忙进入秋天。”
发问
人工智能的日益发展是遮蔽真相的虚拟?还是我们打捞历史处理现实的一种新的方法与途径?人工智能是否在扭曲或篡改历史真相?它是否会根据程序偏向或主观判断在处理历史信息时产生选择性遗忘或增强某些因素?这会不会导致我们对历史的认知发生重大变化?人工智能获得海量历史数据和计算能力,是否能够发现历史上的未知故事或重新审视某些历史结论?它会不会成为揭示历史奥秘的新路径?人工智能的发展是否让我们有机会重构或模拟key historical events(关键历史事件)?人工智能与大数据在助力下,历史是否会发生前所未有的“量变”?海量历史信息的整理与关联会带来什么样的历史再发现?信息过载会不会让我们面临“失去历史方向”的危险?
...
Made with
Landing Page Builder