AI:教我如何生活|灵感电波 #41

远离“有毒”数据

AI:教我如何生活|灵感电波 #41
Photo by Possessed Photography / Unsplash

Hi,又见面啦!

不知道为什么,本周的我有点感性,看到任何东西都能得到很多的启发😂。

  • 从数据投毒学到了什么?
  • 著名的YouTuber Marques Brownlee被攻击,为什么?
  • 我们是否都是孤独一人?

远离有毒的数据

an abstract image of a sphere with dots and lines
Photo by Growtika / Unsplash
“我们塑造工具,此后工具塑造我们。”
——加拿大通信理论哲学家马歇尔·麦克卢汉

我每天都使用AI工具,但直到最近才发现一个深刻的启示。

AI的训练需要大量的数据,这些数据就像是给机器学习的教科书。它由大量的信息、例子和问题组成,目的是通过这些数据来教会AI模型如何理解问题并给出正确的回答或行动。

比如,为了让AI学会识别猫和狗的图片,我们需要给它看很多已经标记好是猫还是狗的图片。通过这种方式,AI就能逐渐学会怎样通过图片的特征来区分猫和狗。

识别狗狗

不过,所有事情都不是一帆风顺的。

训练过程很可能遇到“数据投毒”,这是指故意向机器学习的训练数据中添加错误或恶意数据的行为。攻击者可能出于各种目的,比如:

  • 想要通过破坏一个AI系统来获得直接的竞争优势;
  • 或者影响决策,实现经济利益;
  • 还可能用来推广或压制特定的政治和社会观点。

这种做法可以使AI模型做出错误的预测或决策。通过这种方式,攻击者可以操控AI的行为,比如让AI忽略特定的安全威胁或错误分类信息。

训练数据决定了AI的输出质量,人类又何尝不是如此。

从无知婴儿到社会成员,是人接受社会化训练的过程。你选择看什么书和视频、选择住在什么城市、爱什么样的人,这些都是你输入给大脑的数据,他们共同决定了大脑输出的质量。决定了我们对世界的认知,决策的好坏。

所以,如果你追求成功与幸福,那么就要注意分辨和远离“有毒”的数据,生活在什么样的环境,从哪里获取真实的信息,维护怎样的亲密关系等等重要问题,都应该认真思考和慎重决定。

著名的YouTuber Marques Brownlee被攻击

起因是,从他最近发布的视频标题就能看出来,他指出了Humane AI和它们最新发布的699美元的Pin设备的缺陷。

事实上Brownlee的批评并没有The Verge、Wired或The Washington Post那么严厉。但是Humane的支持者对Brownlee格外愤怒,原因可能是他们认为Brownlee——一个科技内容创作者——属于他们在科技界的自己人,而不是传统记者的圈子,从而产生了被背叛的感觉。

Brownlee本可以选一条更简单的路,比如多说一点这家公司的愿景之类的,或者干脆不碰这个产品。

但是他做了更勇敢的事,发布了他的评测视频,目前已有580万次观看。这也是更明智的做法,因为他知道没有人会认真对待一个只会给五星好评的评论家,而他作为创作者的生计依赖于他的观众认真对待他。

“人们应该信任我,因为我长期以来一直在讲真话。我没有理由不这样做。如果我不值得信任,那就违背了我建立的工作,我的信誉是我在所有评论中建立的。如果我不说实话,那就太愚蠢了。”
——Marques Brownlee

事实上,我在2月底巴塞罗那举办的世界移动通信大会(MWC24)上就试用过这款产品,只不过当时体验很糟,用了一分钟就不想继续测试了。

我欣赏他作为创作者始终保持着的真诚。这也是每个创作者应该秉持的态度。

靠噱头可以走的很快,但是靠真诚才能走的更远。

我们不是孤独一人

本周看了Netflix出品的一部漫画改编剧集《寄生兽:灰色部队》,里面有两个点非常触动我。

一是借寄生兽之口说出人与社会组织的关系:

人类也是寄生的存在
人类寄生在一个叫作「组织」的巨大存在体内
为之牺牲
并做出一系列我们难以理解的跟生存无关的事
以此效忠于那个组织
而这就是人类比我们更强大的理由
(组织)将占多数的称作正常
将只占少数的变种称作非正常
以此赢得那多数群体的支持使组织变得更为坚固
为了成就一个目标,人类组织会牺牲多数人
而且一旦实现目标
到头来只会纪念当他们头领的那一个人

二是借女主的视角展示人与人相处的真谛:

女主一直认为自己是被命运抛弃的人,但是却一直不放弃相信和帮助别人。因为即使一个人看起来再孤独,她也希望与人建立联系。

在与寄生兽合体之后,两人成为合作的伙伴,理解到生存和希望依赖于同伴之间的理解、信任与互助。

特别喜欢寄生兽结尾给女主的信中那句:不管你喜欢与否,你并不是一个人

共勉。


祝你新的一周生活愉快!

董双赫|SHD

Subscribe to 灵感电波

Don’t miss out on the latest issues. Sign up now to get access to the library of members-only issues.
jamie@example.com
Subscribe