铁血战狼,用AI测女人“前科” 宽恕宝便是“科技向善”不和,车前草

图片来历@视觉我国

2017 年,程序员苏享茂因遭受前妻翟欣欣“骗婚”索要1000万元和房产补偿而自杀,引发了社会对”厚道人“程序员”接盘“的重视和戏弄。

最近,有人宣称开发出了检测“小姐姐”的 AI 产品,宣称是为了“挽救”程序员集体,终究却顶不住舆论压力以“删库跑路”告终。

这样的产品,一旦真的做出来并盛行开去,会带来怎样的社会影响?假定它真的有用,你会用它和信赖它吗?

它是什么

5 月 27 日,微博用户@将回忆深埋 表明,他完成了在半年前开端预备的一个项目:将色情网站上的揭露视频和图片打标签后做匹配,以完成所谓“以图搜片”,查询者可以经过上传女性相片、视频和数据库做匹配,判别该女性是否疑似从事过色情职业。

他合丰宝马男表明,现已“在全球规模内成功辨认了 10 多万名疑似从事色情职业的女性”,一起,可以对美颜、Deepfakes 换脸等有用对立,辨认率到达 99%;而关于声响口气仿照选用声纹检测对立,辨认率到达 100%。

不过,他仅仅自己宣称罢了,而且他以惧怕违法为由,回绝敞开 API 或查询页面,也不发布论文或开源算法,而是计划做成一个商业产品。有热心网友替他想好了产品的名字:“宽恕宝”。

微博下面一片骂声。剧烈对立的以女性居多,相反坚决的支持者多为男性。支持者们以为,在微博下对立的女性反而是”自投罗网“;乃至铁苦战狼,用AI测女性“前科” 宽恕宝就是“科技向善”不好,车前草据传,有一位对立者的微博被”挖坟“,发现了所谓”黑前史“。这就意味着,即就是发个帖说下对立定见,也有必要做好万全的预备,保证满有把握才行。

5 月 31 日,本来说要直播承受媒体采访的作者取消了原计划,一起删除了整个项目和数据库,因言辞给别人构成不方便而抱歉告终。仅仅对这个项目的评论并没有跟着作者”删库跑路“而完结。

正如刘慈欣在科幻小说《镜子》中说的那样,即便某一个人有了惊人发现后秘而不宣,地球上必定会有一起想到同一个点子的其它人首先打破缄默沉静,揭露相同的效果。[1]

它或许有私心

令人疑问的是,作者宣告这是一个商业化的软件,即便他自称将把保持服务器开支后的其他收入,用来捐助所谓的防治艾滋病基金。

可是,他并没有挑选最稳妥,也最牢靠的方法以取得潜在运用者的信赖——也就是将整个技术和背面所用的素材库开源。没有开源,代码便不能承受监督,而外部人士也彻底有理由来置疑它是“暗箱操作”。

例如,产品正常判别出成果之后,有或许被植入一些特定人的特定信息,做所谓“人为纠正”。这就意味着即便其数据源网站中并不存在的片段,也有或许会呈现在宽恕宝的成果傍边。

反过来,也有一些人或许现已辨认到,可是假定这人交一些钱,或许选用一些手法,就可以让”宽恕宝“不显现这个辨认成果,适当所以买了 VIP 会员就“隐身”。

假如不是彻底开源以证洁白的话,没有方法证明作者能抵御得住这样的引诱。

有人说,市场上也有对男版“宽恕宝”的激烈需求。问题在于,要找出所谓”渣男“的依据,露脸铁苦战狼,用AI测女性“前科” 宽恕宝就是“科技向善”不好,车前草的图片或视频远远比不上之前传出走漏的开房记载有用。

在许多“资源”中,男性的脸和身段并不是观众“赏识”的首要目标,男主不呈现都没联络,更精确的说是不期望他呈现,有许多片子是所谓的第一人称视角。这就会使男性在片中曝光的或许性远远小于女性。

更不用说,这其间有一些片段,其实是此前所谓“裸贷”、“裸条”的产品。其间的女性是被左氧氟沙星胶囊强逼拍照的,并非自己自愿,当然就更不或许有男性进场。因而,男性的数据集要远远少于女性,假如要做“男版宽恕宝”的话,精确率也会更低。

可是女性的需求却是实在存在的。《谷雨》的特稿描写了香港的“私家侦探社”,他们就像是“民间的差人”,协助客户处理差人无法处理的隐形问题。他们经手的多是商业查询和家庭胶葛,后者包含查询子女吸毒援交、爱人婚外情等。[2]

与这些实在而火急的需求比较,仅经过“小姐姐”单点打破的”宽恕宝“,其产品设计上不行言传的含糊就非常显着了。

它铁苦战狼,用AI测女性“前科” 宽恕宝就是“科技向善”不好,车前草不能保证满有把握

即便“宽恕洋洋很高兴宝”用某种方鹤法证明了本身的中立和非轻视,但仍有或许不行逾越的技术门槛。

人脸辨认或许在某些当地现已比较精准,但在缺少一个精确的数据库的前提下,“冷启动”的精确率依然不高,这是一个即便连谷歌或百度这样的技术巨子都姑且无法处理的问题。

现在,苹果 [3] 和谷歌 [4] 都在各自的操作体系中,预备把现有的 AI 算法从网络调用变成本地运算,将整个包紧缩到手机能承载的规模之内,搭载最新的 AI 芯片,以便将一些在线运算转为本地运算,以充沛维护用户的隐私。

即便如此,这也并不意味着经过少量练习,乃至根本没有练习过的某张随意给定的相片,都能得到很高的精确率。

“宽恕宝”宣称运用的都是揭露资源,一些早已知名的“下海”人士的面孔当然是明晰的,可是辨认出来也没有太大含义。至于所谓“素人”,要么脸部有遮挡,要么来自偷拍,导致图画晃动或质量欠安,发作误判的几率非常高。[5]

而且,即就是给定的几个网络社区,也不能说其上传的一切行李箱暗码忘了怎么办内容都是所谓“自愿”的。由分手后有意报复的一方上传的“复仇色情”(Revenge Porn)或许 Deepfakes 等制作的“换脸视频”,都没有 100% 稳妥的差异方法。

”宽恕宝“作者目前为止发表的技术手法,跟外界猜测的没有太大差异,所以他所讲的精确率也不让人服气。

它滋长传谣,不能驳斥流言

“宽恕宝”的呈现还或许促进不精确的成果大举撒播,演变为流言的传达,给或许无辜的当事人带来不行拯救的损伤。

“宽恕宝”怎么树立本身可信度,以及霸占技术难关都姑且存疑,不过有很秋晴小说网多评论者现已决议信以为真。具体运用者不必定能精确的知道到查询成果的含糊性,并在运用时留一个心眼。

一部分原因是,之前呈现过有些违规运用户籍查询体系来做“人肉查找”的景象。由于户籍不靠算法,可以以为是 100% 精确的,只需求考证截屏是否为假造;而图象真伪,往往又是由所谓”线人“的品格做担保的,可以寻根溯源。这使得人们习惯了相对”精准“的人肉查找成果。可是,假如也用相同的眼光来看待”宽恕宝“生成的,精确度只要必定概率的成果,就非常简单发作误判。

误判之后,能否纠正呢?太困难了。像是最近有一个流言说华为跟阿联酋签署了 5G 协议,阿联酋为答谢华为在迪拜塔开爱在春天展灯火秀。这个风闻现已接连两三天呈现在我的朋友圈和群聊傍边,即就是一些本身就从事传媒职业的朋友也会转发过来。

实践上,阿联酋与华为签署 5G 协议是今莫名塘年 2 月初的 [6] ;迪拜哈里发塔亮灯发作在上一年 10 月 Mate 20 [7] 和本年 4 月 P30 的中东发布会 [8] 期间。可是,在现已广泛驳斥流言后,此音讯仍在撒播的实践,再次证明了“诽谤一张嘴,驳斥流言跑断腿”的道理。

所以,咱们并不能盼望假如“宽恕宝”发作误判之后,就能忽然以杰出的机制来防止流言分散和驳斥流言。倒不如说,由于“宽恕宝”所引发的流言传达,简直在这个产品发布出来的那一刻,就是注定了的。

它本质上是”人肉查找“

“宽恕宝”所选用的原始数据,以揭露状况在网上放了很长时刻,并没有掀起什么风波。可是,这是由于这些数据是打散的,而且没有构成一个体系的链条。

假如“宽恕宝”真的如其作者所宣称的一般,可以经过极端简易的方法,完成对数据的整理和总结,使得一般人使用这些信息成为或许,这些信息就从简直等于不存在相同,转变为对当事人实在可见的要挟。

即便并非“开房”这样灵敏的数据,仅仅一个人一般的人生轨道,构成完好的链条之后,结果都可以适当严重。微博名人和菜头从前提出,微博可以协助人贩子得知博主及孩子的各种具体头绪。有位女网友不信赖,和菜头就把她的 700 多条微博翻了个遍,并出具了一份含有她所在城市、作业单位地址、孩子的名字、生日、常去的当地以及家庭结构等的剖析陈述。[9]

前史上,QQ [10] 、支付宝 [11] 和抖音[12] 都遇到运用者投诉,说使用通讯录、算法等剖析得出的“你或许知道的人”推送功用,向其推送了并不乐意再联络的前男友或前女友。即就是这样彻底不触及灵敏信息的功用都改装车能遭到争议,那么像“宽恕宝”所触及的范畴,假如不西南联大遭到更大的谴责,反而就很奇怪了。

许多人在匿名状况下,失去了社会身份的束缚,简单激起出人道中漆黑的一面。关于触及别人的隐私,咱们都很乐意窥视,有窥私心思,而假如是触及到自己的隐私走漏出去,则必定要坚决对立。

不知是遭到先天的影响,仍是后天的规训,不同的性别也体现出不同的态度。对本身隐私和安全毫不介意,又有激烈的窥私愿望的,男性居多;反过来,既对别人的前史和隐私不感兴趣,又激烈的介意自己的隐私被曝光的,女性居多。

但风趣的是,经常到别人的微博底下挖坟扒黑前史的,男女都有,特别是在一些触及粉丝“逆鳞”的当地,女性尤甚。[13]

其实,这种因窥私而穿透别人躲藏于互联网各个旮旯的个人信息,铁苦战狼,用AI测女性“前科” 宽恕宝就是“科技向善”不好,车前草并将其串联起来的行为,正好就是上文提到的“宽恕宝”的效果碳酸氢钠片的效果——将打散的数据整合为依据链条,整理出一个人的数字脚印,带来了极大的社会危险和人人自危的不安全感。

它的初衷,有更好的方法去完成

作者说,“宽恕宝”开发的初衷是为了防止程序员堕入所谓的“女神”圈套。可是,假如仅仅想让程序员不做”接盘侠“,想让他们找到品行端正的另一半,就只要这一条路可走?

除了这种反向辨认出“小姐姐”的方法之外,分明仍是有可以正向铁苦战狼,用AI测女性“前科” 宽恕宝就是“科技向善”不好,车前草辨认的方法的。为什么人工智能不能经过一些挑选项,让一些默默无闻,藏于深闺,但又巴望实在爱情的好女孩,在人群傍边锋芒毕露呢?

“母胎独身”绝不或许是男性独有的问题,特别是当城市里其实涌入了不少身世乡村,但不肯回去的女孩的情况下,总是会呈现独身男女相互不匹配的“结构性资源缺少”。

在知乎的情感问题区,有许多相似“怎么让一个男生喜爱上你”的由女性提出的以梦为马问题。我国孩子在生长阶段,一般都被”制止早恋“的家长粗犷掠夺了自学爱情技术的时机,一到上大学或结业,又被赶鸭子上架要求处理目标问题。这样培养出的,当然有两耳不闻窗外事的男码农,但谁说这样就不能产出觉得爱情是羞耻的,开释女性魅力是“放纵”的,然后过度封铁苦战狼,用AI测女性“前科” 宽恕宝就是“科技向善”不好,车前草闭自我,不为人注意的女孩呢?[14]

那么,假如这样的女孩可以找到一个相同厚道,不会变节的,又顾家,又进步的程序员,这实践不也是”天作之合“吗?这样尿酸高不能吃什么的信息,是否可以经过一个正向的所谓“爱情宝”这样的东西来匹配呢?为什么作者不能从这个方向去想?

退一步讲,即就是从防止“爱情骗子”的视点1313讲,也彻底可以做一些更为基础性的作业。

以翟欣欣为例,有人点评她的对外档案非常契合所谓“好嫁风”的描绘:长得美丽,可是穿得很保存,看起来土土的;家世好,家里有点钱,好大学结业,有不错的作业 [15]。但事发后,她被曝光材料作假,曾有婚史。

这种信息很大概率不会呈现在“宽恕宝”的数据集傍边,但它实践上是“码农”们更需求萌购的。都说区块链追根溯源能处理差不多一切问题,能用区块链或许大数据揪出婚恋网站的揭露材料造假吗?这不是比充满了性暗示的“宽恕宝”更有用?

小时分,我读到一个故事,但现在已很难找到。故事说,一个优异的银行罗辑思想验钞员被问到有什么查验的技巧时说,自己也不知道有什么诀窍,仅仅触摸纸币时刻长了,能感觉到假币的手感不像是真的。

后来,我找到一个媒体报道,说某地发现的拼接假币,验钞机无法辨认,是货台服务人员手艺点钞时发现的。[16]

这种“无他,唯手熟尔”的故事阐明,处理相同一个问题,咱们可以用反向的“堵”,用预设别人不行信赖的方法,也可以用正向的“疏”,用给社会构成更小不合与伤口的手法。

在我看来,现在很盛行的概念“科技向善”不需求企业必定得做慈悲,而是在面对这样的挑选的时分,去挑选那些弥合不合,而不是撕裂不合的方法,用维护别人,而不是损伤别人的方法,用双赢,而不是零swot剖析和游戏的方法,这样就现已是最大的“善”了。

而“宽恕宝”这个产品体现出的,就是“科技向善”的不好。

[1] http://www.kehuan.net.cn/book/jingzi/14.html

[2] https://mp.weixin.qq.com/s/glFP-fP2aDQVIK1a0KTuxQ

[3] https://mp.weixin.qq.com/s/shXkZk7-OLEgS1OkW3JyWg

[4] https://www.leiphone.com/news/201905/ArmUEPJXPEx00fuZ.html

[5] https://www.zhihu.com/question/326781498/answer/699600752

[6] https://news.sina.com.cn/c/2019-02-27/doc-ihsxncvf8136019.shtml

[7] https://w丰盈的反义词ww.weibo.com/3032210184/GFyC2nATV

[8] https://www.weibo.com/3032210184/HnN6OleI5

[9] https://mp.weixin.qq.com/s/G0e1QX6uofpK59y1LJ_iQw

[10] https://www.geekpark.net/news/155595

[11] https://news.mydrivers.com/1/495/495337.htm

[1qq红包2] https://news.mydrivers.com/1/619/619833.htm

[13] https://mp.weixin.qq.com/s/PRDB0rTK-S-AyyyB9hjm0g

[14] https://www.zhihu.com/question/26702铁苦战狼,用AI测女性“前科” 宽恕宝就是“科技向善”不好,车前草7873/answer/599314321