AI换脸只是小儿科这家公司用AI造了4个工程师

商业社会,弄虚作假屡见不鲜。而近日一家西班牙创业公司身上发生的一次利用 AI 造假事件,让那些融资、业绩、财务数据造假在创新性上都黯然失色。

如果说用药是从外界补充有效成分的“加法”,造血干细胞移植就是替代法——像撒下种子一样,将健康的细胞植入患儿体内。新“长出”的细胞可以产生正常的葡萄糖脑苷脂酶,慢慢的,它们能分解沉积物,令患儿恢复健康。相比用药,移植更加便宜,如果顺利,只需要三四十万。

按照同类硬件创业公司的套路,REGIUM 一边上众筹网站 Kickstarter 众筹,另一边也在网络知名国际象棋社区 Chess.com、Chess24.com 打广告,宣传产品。

浙江的琪琪算是确诊较快的。一岁半时查出血小板低,在当地的社区医院、大医院无法确诊,一番辗转,最终在北京儿童医院得到确定,如此,也花了半年时间。

this person does not exist.com 是海内外小有名气的造脸网站,使用也非常简单,点击进入,每次刷新都会生成一张可能路人甲也可能漂亮的脸蛋,但是他/她根本不存在于世界上。

失灵的人体垃圾处理厂

在线象棋平台 Lichess 的开发者率先对视频提出质疑:棋子在棋盘上自动移动的镜头很可能是使用定格动画制作软件 stop motion 做的。破绽出在骑士这个棋子在视频不同处总是发生变化,其实就是背景在骑士被挪动后出现的空缺。另外,整个视频中完全没有真人玩家入镜,对方分析是一旦有人入镜,那么下一帧很难与上一帧保持一致。

首儿所接诊来自全国各地的重病患儿。在血液科,一年新接诊白血病患儿近百例,戈谢病患儿数量远低于此。刘嵘在首儿所工作了26年,碰上的戈谢病患儿不超过十个。

沉积还会发生在其他部位。

去年7月,10岁的琪琪在浙江大学医学院附属第二医院进行了手术。由于患有戈谢病,琪琪的脊柱畸形严重,向后凸出,从侧面看,小小的背部像扣了一个锅盖。手术后,琪琪的脊柱弧度变得和缓,但当他把贴身衣服撩起,支棱的胸骨和两侧因此凹陷的胸脯就会显露出来,模样怪异而可怜。

刘嵘介绍,随着年龄增长,沉积物增多。内脏肿大,比如脾脏,可以通过外科手术进行切除;骨骼变形,可以矫正,但脑神经受损往往不可逆转。越早干预,患者受损程度越轻。

而 REGIUM 在发给外媒 Motherboard 的电子邮件中否认了这些说法,他们辩解称是因为受到各种非议,成员担心职业生涯受到影响才撤下照片。但除此之外,并未提供任何证据能证明其开发人员是真实存在的人。

雷锋网注意到不少论坛用户对此表示期待,从它 2 月底在 Kickstarter 开展众筹,截至 3 月 2 日被叫停,不到 10 天,获得 58 位支持者,33111 美元筹款。

小晴的体重为15千克,一般按60单位/千克、每两周注射一次,她一年应注射54支,开销为124.2万元,远远超出了家里的经济能力。数年来,小晴用药远低于推荐用量。

人体细胞内有不同的细胞器,在维持人体正常生理代谢中各有作用。溶酶体,就像一个“垃圾处理厂”,含有60多种酶,能分解人体产生的大分子“垃圾”,让它们变得无害。

儿研所曾救治一位外地小姑娘,由于家庭条件一般,无法负担药费,父母选择接受移植。幸运的是,小姑娘的身体容纳了外来细胞,移植成功,她由此摆脱了戈谢病的噩梦。

临床发病的罕见,让戈谢病患儿面临第一个挑战——难以确诊。

这名37岁非裔演员2019年1月报警称,他半夜走在芝加哥住宅附近时,被两名蒙面男子攻击,但案情却在其后大逆转。

想要确诊,需要特殊检测。根据《中国戈谢病诊治专家共识(2015)》,葡萄糖脑苷脂酶活性检测是确诊戈谢病的金标准,但只有少量医院能开展。“最早是北京协和医学院能做,北京、上海、广州一些医院能做,剩下的就是第三方公司了。”中国人民解放军总医院小儿内科副主任医师孟岩介绍。

这大概是小晴第一次见到那么多同伴。

不过,刘嵘和孟岩一致认为,诊断手段并不是漏诊戈谢病的主要原因。通过骨穿、基因诊断、酶学检测等方法来诊断戈谢病并不困难,困难的恰是该病的罕见——临床大夫的认识不够,即便可以检查,也未必能想到戈谢病。

随着病情显露,小晴一度出现骨痛的症状。她还不懂表达,不知道说“痛”,只是哭、精神萎靡,家长也不敢轻易搬动她。用了药,小晴的痛苦就能缓解,慢慢的,一听说要打针,小晴就开心地跟在大人身后,如果逗她说不打了,小晴会生气地哭闹。

而随后,Chess.com 表示,可能不仅是视频,产品也是虚假的。商业发展部主任 Nick Barton 调查后表示,展示视频中的棋盘是由西班牙一家有 50 多年历史的棋盘制造商 Rechapados Ferrer 制作的,该公司一位负责人表示,视频中的棋盘看得出并未再加工,而当前的组件并不支持视频所展示的技术。

据报道,面对当局对他的指控,朱西·斯莫利特一直保持无辜的态度。

根据公开发表的医学论文,一般人群中戈谢病发病率为十万分之一。根据世界卫生组织(WHO)的定义,罕见病为患病人数占总人口的0.65‰-1‰的疾病,在中国台湾,万分之一以下的发病率可作为罕见病。

孟岩介绍,伊米苷酶可以延缓甚至逆转疾病进程,除了快速缩小肝脾体积、改善血液学指标,还能较好缓解骨痛。经长期规范治疗后,戈谢病患者可以正常工作、学习,也可以正常结婚、生育。

互联网国际象棋棋盘制造商 REGIUM 疑似使用 GAN 合成了四个虚拟工程师,以下六人图中,只有 Delgado 和 Balcells 两人确有其人。 

有医学论文指出,戈谢病是目前有明确治疗方法和治疗效果的罕见病中,药品费用最为昂贵的病种之一。伊米苷酶是目前国内唯一经过批准的戈谢病特异性治疗药物,一支400单位,售价23000元。

雷锋网原创文章,。详情见转载须知。

香港中文大学公共卫生及基层医疗学院调查了226位戈谢病患者,根据其2019年发布的《戈谢病患者生存状况调研》,有一半以上的患者(61.9%)有过误诊的经历。近4成患者需要一年以上的时间才能确诊。其中,有6人花了十年时间,才了解自己患上了戈谢病。

沉积在脾脏和肝脏中,患者会出现肝脾肿大,甚至脾梗死、脾破裂;沉积在脑袋中,神经系统受损,患者会出现抽风、运动障碍等症状……除此之外,血液、肺、眼都可能受影响。

REGIUM 是一家位于西班牙的互联网国际象棋棋盘制造商,2019 年 12 月,他们在 YouTube 上发布了一款叫作 REGIUM 的棋盘演示视频,开始获得象棋圈子的关注。

2014年,小晴因出现贫血症状入院,查出戈谢病。随后,她的成长按下了暂缓键,6年过去,小晴的身体发育逐渐被妹妹甩在身后,唯有肚子长得更大——就像孕妇一样涨起,里面兜着肿大的肝脏。

“听到打针她就高兴”

REGIUM 是一个骗局吗?

2018年5月,我国公布第一批罕见病目录,戈谢病纳入其中。

REGIUM 对此的回应是,公司根本不擅长制作视频,拍摄视频时出现了一些问题,于是才后期编辑处理了下。据称,他们给一些质疑者用手机录了一段完整的未经处理的视频。

2017 年,“潘多拉的盒子”打开。Reddit 一位用户 Deepfakes 把《神奇女侠》女主角 Cal Gadot 的脸嫁接到一个成人电影女星身上,Reddit 官方将其封号。作为报复,Deepfakes 将换脸代码开源。2019 年初,“杨幂换脸朱茵黄蓉”的视频火爆中文网络,同年陌陌推出了一款“ZAO”换脸视频,一时之间,刷屏与质疑齐飞。

而戈谢病患者的致病基因,导致溶酶体里的葡萄糖脑苷脂酶活性减少或缺乏,无法正常分解葡萄糖脑苷脂,这些大分子在患者体内沉积下来,引发各种病变。

2019年12月,《戈谢病患者生存状况调研》发布,公开了这一群体就医现状。在我国,戈谢病患者只有300余人,是罕见病中的罕见病。根据调查,六成以上患者有误诊经历,近四成确诊时间超出一年。随着时间延长,患者体内沉积物随之增多,病情也将更加严重。未接受治疗的患者,死亡风险极大。

高昂的药费,让戈谢病成为一种有药难治的病。

芝加哥警方表示,他是为炒作知名度以提高片酬,而自导自演这起假攻击事件,不仅寄出辱骂信给自己,还雇用两名熟人演出攻击戏码,并引用美国总统特朗普的口号“让美国再次伟大”。

珊珊来自广东省一个县城,三月时肚子开始变大,相比同龄婴儿发育缓慢。在当地,珊珊接受血检,显示肝功能异常,一段时间治疗后,病情未得到好转。一家人一路从当地医院到广州、到上海、再到北京,跑了近半个中国,最后,姗姗在北京被确诊为戈谢病。

是否能及早确诊和介入,直接影响患者的生存状况。

《戈谢病患者生存状况调研》提及了对169位戈谢病患者的问卷调查,只有58人使用过伊米苷酶,使用者中,只有14人按照主治医生建议的剂量足量用药,剩余的44人基本以维持剂量或者偶尔用药为主。

不过,一支药下去,小晴一家数月的收入就化为泡影。

对于戈谢病,首都儿科研究所血液科主任刘嵘有一个形象的比喻——垃圾处理失灵。

教皇视频和 this person does not exist.com 背后的技术就是基于生成对抗网络(GAN),这是机器学习中相对较新的概念,第一次出现是在 2014 年,Ian Goodfellow 等人发表了论文《对抗式生成网络》。GAN 通过收集名人面部数据集,学习生成人造面部图像。

照片里,两个小姑娘手拉手,对镜头比出一个俏皮的手势。都是齐刘海、细软黑发,明明是双胞胎,却不像“姐姐”和“妹妹”。

REGIUM 称,他们的自动棋盘是高科技棋盘,用到了 AI、自动跟踪技术等,用户移动棋子是快速、无声的,可以将棋盘状态与各种在线象棋 APP 同步,与人远程下棋,还能实时载入更多棋类游戏。

小晴(左)和双胞胎妹妹的合影。因为患有戈谢病,小晴的发育明显不如妹妹。受访者供图

今年7岁的妹妹,拥有健康的小麦色皮肤,腿脚痩长、发育良好。姐姐小晴却像一个3、4岁的小娃娃,比妹妹矮了一个头,面容和头身比十分幼态。庆祝生日,同一款纸“皇冠”,戴在姐姐头上显得大了,像随时要罩下来;坐在一辆玩具车上,妹妹将小小的姐姐圈在怀里。

Chess.com 采访了网站的创始人 Phil Wang,他认为那四个人的照片存在失真,具有 GAN 生成的人造人照片的特点。“根据我的经验,眼镜周围扭曲失真,背景也有点假,我还看出来他们似乎用了英伟达的模型。”另外,他还指出,这些人的照片在互联网其它任何地方都搜索不到。

对于确诊患者,用药是首选。这是戈谢病的幸运之处——只有5%的罕见病有特效药,戈谢病的特效药是伊米苷酶,也是治疗的标准方案。

想甩脱这样的“负重”,患儿须通过几道关卡——找出有能力确诊戈谢病的医院、支付2.3万元一支的特效药,或成为造血干细胞移植的幸运儿。

去年12月29日,小晴和妈妈来到北京,参加一场戈谢病患者生存状态调研结果发布会。专家解读报告与政策的间隙,不时有坐不住的小孩在会场穿梭,他们有的和小晴一样肚皮鼓鼓,有的则显露出视力、肢体障碍。

据雷锋网(公众号:雷锋网)了解,它的原理是棋盘每个坐标点装上固定电磁铁,连接着 APP,用户可以通过手机操纵对应的棋子。事实上,这也不是第一个电子棋盘。在此之前还有过一款名叫  Square Off 的类似产品。

除了制造“人造人”,这家公司的主打产品——自动国际象棋棋盘,也被多个网络知名国际象棋社区产品扒出产品、视频造假,目前公司在众筹网站 Kickstarter 的项目已被暂停。

有网友形容该网站是,“很有趣,但没有什么用”。大多数人打开它确实也就是图个新鲜,但没想到有公司竟然想出如此“创意”的想法。

视频、产品存疑,还赶上众筹,象棋网友继续挖,然后发现这个公司的开发团队成员的脸都是假的!

现在,我们一起从互联网的记忆中检索一下。2015 年,教皇方济各访美期间,一个绝妙的“抽桌布”戏法视频迅速火遍全美乃至全球,只见他在向圣坛礼拜后,抬手将桌布一抽,桌上物品一点没乱。这应该是网上第一例引发广泛关注的 AI 合成“人造人”事件。没错,这个视频就是假造的,据说教皇本人后来看后并不是很高兴。

而这起案件后来更加怪异,库克郡检方2019年3月撤回对他最初的16项重罪指控。市政府则寄信给朱西·斯莫利特的律师,要求这名演员支付与警方调查此案有关的13万美元加班费。

一些家庭因此选择另一条路。

雷锋网了解到,官网“About US”菜单列出了 6 位工程师的照片、名字和头像,Chess.com、Chess24.com、Lichess.org 三家考证表示,其中大概只有两个是真人,其余 4 位很有可能是用 GAN 生成的人造人,用的就是 this person does not exist.com 这个网站的功能。一个侧面印证是,图片信息都是 1024×1024,96dpi,24 位,jif 格式,缺少任何标题信息。

戈谢病,将他们从内到外打上烙印。

“戈谢病是罕见病中的罕见病。”刘嵘说。中国已确诊的戈谢病患者仅300余人,国内也没有这一疾病的准确流行病学调查。

但也就是上月开始,该团队逐渐被产品造假、视频造假等议论包围。YouTube 上播放量超 4 万的产品介绍视频,率先引发了象棋玩家对这家公司的质疑。

最明显的是骨骼畸形。

技术本是无知无觉的工具,有人陷入色情视频 AI 换脸黑产狂欢,也有人拿 AI 应用于医疗诊断、公益救助,是造福还是造假,全赖使用者的本心。