Signal认为人工智能从本质上说是一种"监控技术"

为什么这么多依靠用户数据盈利的公司似乎都对人工智能情有独钟?如果你问Signal总裁梅雷迪斯-惠特克,她会告诉你,这仅仅是因为"人工智能是一种监控技术"。

在TechCrunchDisrupt2023大会的舞台上,Whittaker阐述了她的观点,即人工智能在很大程度上与Google和Meta等公司长期从事的大数据和目标定位行业密不可分,虽然这些公司不那么关注消费者,但同样也是著名的企业和国防公司。

"它需要监控商业模式;这是我们自上世纪90年代末以来所看到的监控广告发展的加剧。我认为,人工智能是巩固和扩大监控商业模式的一种方式,"她说。"维恩图是一个圆圈。使用人工智能也是一种监视,对吗?你知道,你走过一个装有伪科学情绪识别仪器的面部识别摄像头,它会产生关于你的数据,无论对错,它会说'你很高兴,你很悲伤,你性格不好,你是个骗子,等等'。'这些最终都是监控系统,它们被推销给那些对我们拥有权力的人:我们的雇主、政府、边境管制部门等,让他们做出判断和预测,从而决定我们能否获得资源和机会。"

她指出,具有讽刺意味的是,支撑这些系统的数据往往是由这些数据可以瞄准的工作人员组织和注释的(这是人工智能数据集组装过程中的必要步骤)。

"在告知数据基本真相的层面上,如果没有人类劳动,就没有办法制造出这些系统--有人类反馈的强化学习,这又只是一种技术清洗不稳定的人类劳动。"她解释说:"成千上万的工人工资很低,但总的来说成本很高,而且没有其他方法可以创建这些系统,完全没有其他方法。在某种程度上,我们看到的是一种绿野仙踪现象,当我们拉开窗帘时,实际上并没有那么多所谓智能存在。"

不过,并非所有的人工智能和机器学习系统都具有同样的剥削性。当被问到Signal是否在其应用程序或开发工作中使用了任何人工智能工具或流程时,她证实说,该应用程序有一个"小型设备模型,但不是我们开发的,我们用的是现成的,作为我们媒体编辑工具集中面部模糊功能的一部分。实际上,它并没有那么好......但它可以帮助检测人群照片中的人脸并对其进行模糊处理,这样当你在社交媒体上分享这些照片时,就不会向Clearview等泄露人们的隐私生物识别数据。"

"但问题是比如说......是的,这是对人工智能的一个很好的利用,这不正好让我们打消了我在台上抛出的所有负面情绪吗?"她补充道。"当然,如果这是人脸识别的唯一市场......但我们要清楚。开发和部署人脸识别技术的过程耗资巨大,其经济动机绝不会让这成为唯一的用途。"

责任编辑:站长云网

发表评论