昨天看到影视飓风发布的一个视频,谈到字节跳动的seedance2.0模型,可以说是视频制作的恐怖级跨越。黑神话悟空的制作者冯骥体验后发文说,这是全民视频化时代的到来,在震撼之余也迷茫地提出了一个问题,如果AI把内容生产能力提高了100亿倍,那会是一个怎样的世界?
这里先说一个插曲。 看到信息后我想立刻体验一下,就在谷歌里搜索seedance 2.0, 直接第一个进入了这个网站seedance2.ai。进入后看到下面这个内容,然后就被要求准备付费了。最后一瞬间有点怀疑,在搜索求证之后确认这是个骗子网站。看看,骗子的动作有多快,AI首先也让骗子们的工具和能力倍速加持了。
(就是这个网站,搜索还会有其他类似一系列的骗子网站,应该都是刚出来骗钱的。)
这还只是一个传统的欺骗手段,看看网上seedance2.0生成的视频,只要一张照片,就会生成你的亲人甚至你自己都无法分辨真假的视频。 过去,我们看到虚假信息,最好的方式去看原视频来辨认真假。亲人朋友们用视频通话来确认身份,司法用视频来取证或者指证作为判决依据。
但是现在,当视频工具已经让普通人都拥有了核弹一样的制作能力的时候,我们如何避免陷入一场信任的危机?
骗子们可以从手工时代过渡到工业时代,把作恶的门槛降到极低,把作恶的效率拉到了天花板。
而司法面临的是证据链的崩塌,随心所欲的视频无所不在,如何能举证清白或者指证罪恶事实呢?
李鬼无所不在,之前就有用Deepfake伪造CFO会议骗取了巨额资金的事情。当seeddance2.0以及其他视频技术的普及,这种伪造会更加逼真,难以辨别。
过去我们可以警惕文字和语音,不过还可看视频来确认事实,但是以后看视频都要先问一句,这是真的吗? 这无疑是一场巨大的消耗,社会运转的摩擦成本将会剧增。
现在的问题和挑战就是,在全民视频化,万物皆可生成的时代里,我们还可以相信什么?
当“眼见为实”转变为“眼见为虚”的时候,我们无法相信结果,而只能去溯源相信源头。 设想一下,在可见的未来,我们可能从下面几个维度去寻找新的信任锚点:
1. 信誉将变得无比珍贵,包括个人的和机构:当我们无法相信看到的结果时,我们只能去相信发布结果的人或者机构,是否值得我们信赖。当造假成本为零的时候,长期积累的信誉会成为最重要的资产。 所以,微信,微博,哔哩哔哩,youtube, x.com这些媒体和社交平台的安全性以及平台上的个人账户的信誉将会是信息可信度的一个评判标准。
-
回归线下物理世界:虚拟世界的信任崩溃也许会让人重回线下真实世界,见面,握手,用笔签署纸质合同。这一点也许是一个积极的回归吧,让人可以多回到现实世界,看看对方的脸,看看对方的眼神,体验面对面的真实。
-
加密签名和数字出生证:每一张实际拍摄的照片和视频需要一个不可篡改的加密签名和数字出生证,作为验证来源可靠性的基准。如果没有,就是不可信的。
-
零信任架构:这也是网络安全和区块链的基本逻辑,默认不信任,必须要交叉验证、多重验证。
记得之前谈到过, AI是生产力,是进攻的矛。区块链是生产关系,是防守的盾。 看起来,未来发展的确需要如此。AI带来的生产力革命,一方面需要区块链辅助构建一个更加平等的生产关系来保障众生普惠的享受到这个生产力发展的红利,另一方面也需要区块链的可信认证来构建数字时代的信任。
当然,除了物理世界的亲眼可见,亲身体会还有网络和加密的认证,对于真实性的判断,我们可能还需要从自身认知上学习提升判断力。一个方面是从逻辑上判断因果是否合理和前后一致性,另一个方面是避免贪嗔痴带来的认知混乱。 简单来说,不能总相信天上随便就会掉馅饼,也不能相信一个烂人或者烂公司、烂机构突然变的出奇的好。世间有因果,没有随随便便的好,也没有随随便便的坏。
中午跟家人谈起这个新技术带来的可怕性,宝妈说我们是不是需要一个应急家庭密码,如果是遇到需要确认身份的时候先要对答几个只有自己家人知道的问题,比如爷爷叫娃什么名字之类的。嗯,这个主意听起来有点搞笑,不过看起来在这个技术突飞猛进却又有些混乱无序的时代有时候还真需要某种传统的方式来对个暗号,验明正身了。
评论功能即将上线。
本站使用 Giscus (基于 GitHub Discussions),配置完成后此处将显示评论区。