广州Python培训
达内广州Python培训中心

18087159764

热门课程

如何通过人工智能将道德应用于更安全的未来

  • 时间:2018-05-03 17:28
  • 发布:达内新闻
  • 来源:达内新闻

关于人工智能(AI)的未来,有两种思想流派:

乌托邦的观点:智能系统将迎来一个启蒙的新时代,人类从工作中解脱出来追求更高尚的目标。人工智能系统将被编程以治愈疾病,公平地解决争端,并且只会以有利于我们的方式增加我们的人类生存。

世界末日的观点:智能系统将窃取我们的工作,在进化中超越人类,成为战争机器,并根据当前的需求优先考虑遥远的未来。我们控制它们的可疑努力只会揭示我们自己的缺点和较低的将道德应用于我们无法控制的技术的能力。

与大多数事情一样,事实可能是在中间的某个地方。

无论你在哪个领域工作,重要的是要考虑随着技术的发展人类可能如何影响人工智能。一个想法是人类将主要形成人工智能的良知或道德结构。但是,我们将如何做到这一点?我们如何将道德应用于人工智能以帮助防止最糟糕的事情发生?

AI道德规范第1步:提供最好的数据

人工智能算法通过一组用于通知或构建算法的数据进行训练。如果您的算法将鲸鱼识别为马,显然您需要提供更多有关鲸鱼(和马)的数据。同样,如果您的算法将动物识别为人类,则需要提供更多关于更多不同人类的数据。如果您的算法做出不准确或不道德的决定,可能意味着没有足够的数据来训练模型,或者学习强化不适合达到期望的结果。

当然,也有可能人类可能在不知情的情况下,通过有偏差的数据选择或错误配置的强化值将他们的不道德价值注入系统。总的来说,我们必须确保我们提供的数据和输入为算法绘制完整和正确的图片。

AI道德规范第2步:提供适当的监督

为所有AI项目建立清晰的所有者和利益相关者的治理体系。定义您将使用AI自动执行哪些决策,哪些决策需要人工输入。为流程的所有部分分配责任,并对AI错误负责,并为AI系统开发设定明确的界限。这包括定期监控和审计算法,以确保偏差不会蔓延并且模型仍按预期运行。

无论是数据科学家还是专门的实践伦理学家,都应该负责AI策略和协议,包括合规性。也许有一天,所有的组织都将建立起人工智能伦理主义的角色。但是不管标题如何,有人必须负责确定产出和绩效是否在给定的道德框架内。

正如我们一直需要治理,可追溯性,监控和标准分析的改进一样,我们也为人工智能提供服务。然而,AI的后果更为严重,因为机器可以开始提问并自己定义答案。

AI道德规范第3步:考虑新技术的后果

为了让个人执行政策,该技术必须允许人类进行调整。人类必须能够选择和调整训练数据,控制数据源并选择数据如何转换。同样,人工智能技术应该支持强大的治理,包括数据访问以及指导算法不正确或在符合道德界限的范围之外运行的能力。

无法预测AI的所有潜在情景,但重要的是要考虑可能性并对正面和负面的强化进行控制。例如,引入新的甚至是竞争性的目标可以奖励符合道德标准的决策,并将不道德的决策视为错误或误导。AI系统旨在提高质量和效率的同等重要性,而不是完全侧重效率的系统。此外,设计一个具有多个独立和相互冲突的目标的AI系统可以为系统增加额外的责任。

python培训

人与人之间的关系

深度学习系统的强大之处在于他们确定自己的参数或特征。只要给他们一个任务或目的,指出他们的数据,然后他们处理剩下的事情。例如,自动校准能力在SAS®可视化数据挖掘和机器学习可以计算出为自己的最好成绩。但人们仍然是这一过程中最关键的部分。

“人类解决问题而不是机器,”SAS的AI专家Mary Beth Ainsworth解释说。“机器可以提供解决问题所需的信息,然后进行编程,以自动化的方式解决这个问题-基于解决问题的人性化解决方案。”

虽然未来的人工智能系统也可以收集他们自己的数据,但大多数现有系统依靠人类来提供输入参数,包括通过学习定义确定的数据和最佳结果-如强化学习。当您要求算法找出实现该结果的最佳方法时,您不知道机器如何解决问题。你只知道它会比你更有效率。

鉴于目前人与AI之间的这种关系,我们可以采取一些步骤来更加道德地控制AI项目的结果。我们从这三点开始。

不要回避AI道德

人工智能可以提高汽车安全性并诊断癌症-但它也可以选择巡航导弹的目标。所有人工智能功能都有相当多的道德问题,需要从多个角度进行讨论。我们如何确保AI的道德体系不被滥用?

以上三个步骤仅仅是一个开始。他们会帮助你开始关于为你的组织开发道德AI准则的艰难对话。你可能会犹豫不决,想要画出这些道德标准,但我们无法避免谈话。所以不要等待。现在开始讨论,以便您可以确定边界,如何执行它们,甚至在必要时如何更改它们。 

上一篇:比较AI的密集计算平台
下一篇:用自然语言与AI交谈有哪些不足的地方

马上预约三天免费体验课

姓名:

电话:

选择城市和中心
贵州省

广西省

海南省