蓝盟IT小贴士，来喽！
社会已经被财阀集团控制，人工智能充当支配的工具，每个人的行动都必须遵循机器的逻辑、算法规则。 而且生活在社会最底层的主角试图找到其中的漏洞，摆脱被操纵的宿命。
在很多认知中，相似的反乌托邦世界可能离我们还很远。 但是，当人工智能技术从象牙塔进入现实生活时，关于AI伦理的议题逐渐成为学术界争论的焦点，也有年轻人考虑算法伦理和风险。
例如，在b站有名的视频博主“下苏”制作的内容中，讨论了DeepFake和人类恋爱等话题。 如果DeepFake等黑色技术被用来作恶，我们应该对人工智能采取什么态度？ 如果“技术中立”受到越来越多的人的批评，我们应该如何处理新时代的人际关系？
AI伦理的概念可能还是宏观的，就是联系每个人。
无处不在的算法歧视
人工智能离我们不远。
打开信息应用程序时，算法会根据你的喜好自动推荐新闻。 去EC平台购物时，算法会根据你的习惯推荐对应的商品。 应聘求职时，首先处理简历进行筛选也可能是算法。 去医院看病时，医生可能会使用某种算法模型来判断生病的可能性。
算法以前所未有的速度渗透到我们的生活中。 在支持者眼里，算法在一些决策中可以减少人为干预，提高决策的效率和准确性。 从批评的角度来看，算法是否有人为偏见，人们的命运是否会被算法所左右。
遗憾的是，算法歧视现象往往是算法落地应用的衍生品。
独一无二，2018年IG夺冠的喜讯使网络沸腾时，战队老板王思聪在微博上进行了抽签，但意外的是，获奖名单上有112名女性获奖者和1名男性获奖者，女性获奖者的比率是男性的112倍
因此很多网民质疑抽奖算法的公平性，网民自己测试抽奖算法，将获奖者数量设定得多于参加者数量，依然有很多用户无法获奖。 因为这些用户被算法判定为“机器人”，意味着任何抽奖活动都没有当选的机会。
在算法黑盒面前，我们看到的只是结果，往往不能理解决策的过程。 类似的情况可能很多，但不太引人注目。
最直接的教训是互联网，硅谷自由的法律制度使互联网诞生，有些原罪被选择性无视，最终在20多年后出现了对互联网的批评。 正如纽约时报在《减少互联网是唯一的答案》中所述，将网络总结成具有集权主义意识形态的技术，网络企业被认为是运用技术的“邪恶魔王”集团。对网络批评大的概率不会让人们减少网络的使用，为什么网络会从万人向往的行业变成老鼠，如果算法的应用和算法歧视现象不受制约，将来的某一天会引起怎样的波澜？
根源在于人性的偏见
当然，算法的“偏见”并不缺乏合理的解释。
一是机器学习结果的偏见不是因为算法偏差的“技术中立”，而是因为数据集偏差。 有名的支持者有被称为“卷积神经网络之父”的杨立昆，如果有人拿着菜刀砍人，是因为菜刀制造商和“菜刀本刀”吗？
另一种解释是数据量太小，算法学习的数据量越多，算法错误就越少，结果就越准确。 即使可以开发将没有偏见的数据输入算法的筛选系统，也不能达到绝对的公平。 毕竟，“主流”总是有更多的数据，算法最终偏向于大多数，“非主流”产生了所谓的歧视现象。
两种说法其实阐述了一个同样的道理：计算机领域有GIGO，也就是Garbage in，Garbage Out这个有名的缩写。 翻译成中文意味着，如果输入了垃圾数据，输出也是垃圾的结果。 算法就像现实世界的镜子，可以折射社会人们意识到的或无意识的偏见。 如果整个社会对某个话题有偏见，算法的输出结果当然是歧视性的。
德国哲学家雅思珀斯在《原子弹与人类的未来》中表示：“技术本身不是善也不是恶，但可以用于善也可以用于恶。 本身不包括任何观念：不包括完美的观念也不包括毁灭的邪恶观念。 这些都是另一个来源——在人类自己之中。 ”。
文/上海蓝盟 IT外包专家
中文
电话咨询
微信咨询
公众号
