怎样正确的开发算法及算法的局限性

翻译|行业资讯|编辑:况鱼杰|2020-11-02 15:36:16.123|阅读 331 次

概述:现在算法已成为日常生活中不可或缺的一部分。算法会为我们提供建议,这些建议是我们的GPS建议我们开车去的路线,我们选择的音乐流媒体服务为我们播放的播放列表,我们的社交媒体帐户认为我们希望与之成为朋友的人。

# 31款JAVA开发必备控件和工具 # 开发软/控件产品年终优惠

现在算法已成为日常生活中不可或缺的一部分。算法会为我们提供建议,这些建议是我们的GPS建议我们开车去的路线,我们选择的音乐流媒体服务为我们播放的播放列表,我们的社交媒体帐户认为我们希望与之成为朋友的人。

但是,诸如2018年Cambridge Analytica和Facebook丑闻之类的争议使我们对与数据捕获,分析和利用方式有关的道德准则进行了三思。

数据和可用于挖掘它们的算法不是敌人。每天与自己选择的智能家居设备对话的任何人都可以证明,负责任地收集和挖掘数据可以改善我们的生活。但是一切都应该在确保隐私得到保护的情况下,应该是符合道德的开发,想要实现这一目标的关键是透明度机制。



什么是道德开发的算法?

在2016年,研究安德鲁·塔特(Andrew Tutt)呼吁采用“ FDA演算法”,

“日益复杂的算法的兴起要求人们对如何最好地预防,阻止和补偿其造成的危害进行批判性思考。算法监管将需要联邦统一性,专家判断,政治独立性和上市前审查来预防-而不扼杀创新 –将不可接受的危险算法引入市场”。


代替现有的权威,可以看一下机器学习的公平性,问责制和透明度所创建的开发原则,以帮助开发人员和产品经理以公开负责的方式设计和实现算法系统:

  • 责任

为算法决策系统对个人或社会的不利影响提供外部可见的补救途径,并为负责及时解决此类问题的人员指定内部角色。

  • 可解释性

确保可以以非技术性的方式向最终用户和其他利益相关者解释算法决策以及驱动这些决策的任何数据。

  • 准确性

在整个算法及其数据源中识别,记录和阐明错误和不确定性的来源,以便可以理解预期和最坏情况的影响并为缓解程序提供信息。


  • 可审核性

通过提供可进行监视,检查或批评的信息,包括提供详细的文档,技术上合适的API和允许的使用条款,使感兴趣的第三方能够探查,理解和审查算法的行为。

  • 公平

在跨不同受众特征(例如种族,性别等)进行比较时,请确保算法决策不会产生歧视性或不公正的影响。


算法的局限性

可以肯定地说,算法并不会像人类一样会出现例如疲劳这一类的错误,但是使用算法进行决策存在局限性,这进一步强调了负责任的开发的重要性。透明度和“黑匣子”效应通常被认为是算法的局限性,对于研究人员来说,了解他们打算使用的任何算法的工作原理,了解其是否适合目的尤其重要。


机器学习算法经过训练,可以根据并非总是具有代表性的数据提出建议,因此,系统性偏差可能会被忽略,并且会随着时间的流逝而扩散。在研究环境中控制所有数据的要素至关重要。出于同样的原因,当计算机崩溃或我们生活中的另一台设备出现故障时,我们常常会感到惊讶-我们倾向于将算法视为无懈可击。但是,重要的是要了解它们的平均性能,并且只能进一步强调研究环境中对透明度和控制的需求。


疯狂的算法

表面上部署好算法的恐怖故事不乏其人,只是产生了相当负面的结果。例如,2016年,Microsoft的工程师创建了一个名为“ Tay”的Twitter机器人,该机器人由算法驱动,使其能够根据发布的推文对“千禧一代”做出回应。然而,在数小时之内,Tay在推特上发布了种族主义,性别歧视和否认大屠杀的推文,证明了这项技术是容易犯错的,它只是学习了然后反映了目标受众的性别歧视和种族主义偏见。

2017年初,亚马逊的Alexa智能家居设备成为头条新闻,当时达拉斯的一名6岁女孩在与该设备进行了关于她对这些东西的爱的交谈之后,能够为自己订购160美元的玩具屋和一罐饼干。随着这个故事在全国范围内引起了人们的关注,据报道,基于收听电视新闻报道,Alexa设备为其他家庭下了同样的订单。


这些示例说明了需要特别注意针对机器学习开发的算法,以及开发负责人在确保限制意外后果方面所起的作用。


对于研究人员

对于在工作中使用该技术的研究人员,人工智能提出了“黑匣子”的概念。但是,只要开发人员将透明性和研究人员的控制原则结合起来,软件就可以成为盟友并被视为研究助手。而在QSR,也将继续以我们的研究基础开发这些工具,以使其更加准确,透明,并最终改善研究人员的工作寿命。

慧都为您倾情推荐算法专题>>,更多有关算法的软件和资讯,请点击在线客服



标签:算法机器学习

本站文章除注明转载外,均为本站原创或翻译。欢迎任何形式的转载,但请务必注明出处、不得修改原文相关链接,如果存在内容上的异议请邮件反馈至hey@evget.com

文章转载自:QSR International

为你推荐

  • 推荐视频
  • 推荐活动
  • 推荐产品
  • 推荐文章
  • 慧都慧问
在线咨询
联系我们
TOP
在线客服系统
live chat