没有人类监督 AI能帮FB和YouTube应对新冠病毒危机吗?

2020-03-24 07:42 分类:公司新闻 来源:

  3月21日音讯,据外媒报导,当地时刻3月17日晚,在全球最大上市咨询公司埃森哲都柏林总部担任监控YouTube内容的审阅团队,经过群聊得知了他们的办公室行将封闭的音讯。新式冠状病毒的传达对他们来说太风险了,他们不能持续这样在开放式办公室近距离作业。pXD

1.jpgpXD

为了确保安全,这些内容审阅人员被送回了家,虽然合同约束意味着他们不能持续作业,过滤掉每分钟长途上传到渠道的500小时视频。这些内容审阅人员都归于承包商,其时在场的一人解说说,大多数人都拥护这样的决议。并且他们还被奉告,在办事处封闭期间,将能够持续取得财务支撑。pXD

 pXD

  承包商是坚持交际网络“洁净”的隐秘工人大军。这些人薪酬很低,但作业量相当大,需求完结的方针高得离谱。曾有经过埃森哲签约的YouTube内容审阅人员称,他们辨认内容的准确率被要求坚持在98%以上,每个月只允许犯几个过错。承包商们的作业是过滤有问题的内容,并决议这些内容在主导咱们国际的网站规矩下是否能够被承受。pXD

  这些人中,有10000人协助审阅谷歌的服务,超越30000人签约协助监控Facebook。在曩昔的两年里,跟着科技公司因流程中的问题而面对的批判激增,协助审阅渠道内容的承包商数量也急剧添加。这种详尽的人类作业经常被淡化,以便支撑科技公司推行他们的主动监控体系,符号和删去不适当的内容。但咱们都知道,人类审阅依然至关重要。pXD

  当哈罗德·奥德菲尔德(Harold Oldfield)企图在Facebook上发布几个关于美国对新式冠状病毒迸发的反响帖子时,他意识到有些不对劲。这些帖子都来自闻名的新闻媒体,但却立即被符号为废物内容。奥德菲尔德解说说:“我觉得很好笑,由于我真的写了一本关于监管Facebook等渠道的书,并用了整整一章来论述内容审阅中坚持公平缓通明的重要性。Facebook回应说,上述过错不符合其规矩好像有点儿口是心非。”pXD

  奥德菲尔德向Facebook提出了反对,他的这些帖子很快被康复。但他说:“对我来说,这是非有必要的,乃至是风趣的。但晦气的一面是,它会让时刻灵敏的讲演中止,这总是让人忧虑。每个人都指出,有欠好的东西被漏掉了,所以他们以更为急进的方法使过滤器,这反而导致那些对时刻灵敏的好东西很难被发现。”pXD

  奥德菲尔德不是仅有遇到这个问题的人。那些一向企图共享有关新式冠状病毒的重要实在新闻故事和信息的人发现,他们的帖子触发了Facebook的反废物内容过滤器,后者旨在保持社区规范。前Facebook高管亚历克斯·斯塔莫斯(Alex Stamos)在推特上说,他以为这是“反废物内容规矩发疯的痕迹,咱们或许会看到机器学习在人类监督削减的状况下开端张狂。”pXD

  Facebook首席执行官马克·扎克伯格(Mark Zuckerberg)在3月18日的一次电话会议中提到了这一点:“即便在像美国这样能够自在表达的国家,也有很长一段时刻的先例,不允许人们在拥堵的房间里大喊大叫。我以为,这类似于人们在这样的疫情迸发期间传达风险的过错信息。”定论很简单,最好的状况是无意中限制了“好信息”的传达,以确保“坏信息”必定无立足之地。YouTube供认“用户和创作者或许会看到更多的视频被删去,包含某些或许没有违背方针的视频”。pXD

  Mozilla的技能方针研讨员弗雷德里克·卡修纳(Frederke Kaltheuner)标明:“内容监管触及做出极端奇妙的决议,特别是当你企图删去的东西没有清晰的界说时。主动化体系不能做出这些细微差别的决议,而手动符号机制也经常被那些对他们不喜欢的内容或账户进行和谐符号的人乱用。”pXD

  但是,人们对此感到动火。朱莉娅·里达(Julia Reda)标明:“长期以来,扎克伯格一向在向方针制定者推行AI,将其作为处理每个问题的计划。从商业视点来看,这是有道理的,开展AI需求拜访海量数据,这让Facebook在竞赛中占有优势。”里达曾是欧洲议会绿党议员,长期以来一向建议对科技公司进行更好的操控。pXD

  但她以为,科技公司在缺少人类监督的状况下好像存在缺乏。里达说:“许多布告标明,渠道公司很清楚上传过滤器无法区别合法和不合法内容。这些过错会体系性地导致轻视呈现,例如阿拉伯语内容被更多地符号为恐怖分子宣扬。在像现在这样的危机状况下,政府和公司建立了曾经不行幻想的规范。咱们有必要坚持警惕,确保它们不会成为新常态。”pXD

  Facebook担任诚信的副总裁盖伊·罗森(Guy Rosen)很快标明,开始的问题现已处理。3月18日,他在推特上写道:“咱们现已康复了一切被过错删去的帖子,其间包含一切主题的帖子,而不仅仅是那些与新式冠状病毒相关的帖子。这是一个主动体系引发的问题,该体系删去了指向谩骂网站的链接,但也过错地删去了许多其他帖子。”问题在于,人们的帖子依然被过错地屏蔽。在罗森宣告问题处理了之后,人们回复他说,Facebook的算法触发了违背该网站社区规范的行为。pXD

  剑桥大学副研讨员兼讲师詹妮弗·科布(Jennifer Cobbe)专门监控和研讨内容审阅,她说:“这就像曩昔十年里关于Facebook的每篇报导相同。他们说现已处理了问题,但实际上并非如此。我以为任何人都不应该对Facebook处理这件事的才能抱有太大决心。”pXD

  这个问题一向都存在。早在2019年6月,就曾有研讨YouTube算法的谷歌软件工程师标明,算法存在需求修正的问题,但他们热衷于着重,机器学习算法一向在以惊人的速度改善。他们总结说,如果有满足的练习数据,简直一切的问题都能够经过算法处理。但这仅仅是科技乌托邦式的高傲吗?pXD

  谢菲尔德大学研讨交际媒体内容审阅的伊莎贝尔·杰拉德(Ysabel Gerard)标明:“AI现在不能(永久也不或许)完美地进行内容审阅。你不或许将人类互动这样杂乱的作业主动化,咱们现已看到了许多根据AI审阅过错的比方,比方曩昔几天有关新式冠状病毒疫情的新闻和帖子被删去。”pXD

  终究,跟着新式冠状病毒的传达,确保暗地人员的安满是很重要的。全国际数以百万计的人现在挑选在家作业。科布说:“这触及到许多的人,或许一切人都坐在斗室间里,近距离地检查内容。”pXD

  科布发现走向更主动化的内容审阅“或许十分令人担忧”。她忧虑有两个原因:首要,将权利从人类移交给技能,让交际媒体渠道有更多的权利来决议什么是适宜的内容,什么是不适宜的内容,而不是政府监督。其次是更简单化的技能问题。她说:“这些体系并不能真实担任这项作业,现在也不能真实替代人类。”众所周知,算法反映了它们创建者的成见,而人类内容审阅人员现在在消除某些最严峻的成见方面发挥了重要作用。pXD

  咱们之所以能走到这一步,是由于科技职业对赢利的执着,科布指出。“科技公司最垂青的一件事便是规划。他们企图用尽或许多的内容生长为尽或许大的规划,尽或许多地取得手中的内容。一旦你达到了必定的规划,就很难和人类一同做作业了,由于你需求雇佣太多的人,以至于做作业的本钱变得令人望而生畏。因而,他们求助于AI,企图替代这些人类,这样他们就能够依照自己想要的水平进行扩展规划。”pXD

  但是,正如咱们现在正在了解的那样,AI还远远没有准备好担任重担。科布说:“科技职业对自己的体系太有决心了,作为一个社会,咱们对AI投入了太多。咱们刚刚意识到,在最糟糕的时分,这个备受吹捧的AI处理计划背面的人类力气。咱们很或许会看到AI内容审阅带来的问题比咱们现在看到的要大得多。我要说的是,我十分必定,即便是人类来审阅内容也相同存在许多问题。” (腾讯科技审校/金鹿)pXD