发布时间:2024-07-23 13:24:40 来源:本站 作者:admin
世界各地的人口结构正在发生重大变化。在许多国家,劳动年龄人口的比例将会减少。联合国报告称,“全球 65 岁及以上人口的比例预计将从 2022 年的 10% 上升到 2050 年的 16%”。这意味着从每 10 人中就有 1 人使用人工智能,到每 6 人中就有 1 人使用人工智能。
在这种背景下,人工智能有望成为生产力的下一个重要杠杆,前景令人振奋。生成式人工智能和其他形式的人工智能在数字世界中独立运作,并与机器人技术相结合,执行需要体力劳动的任务,可以在未来十年内将全球劳动生产率提高 30%,到 2050 年将远远超过这一水平。
所有这些好处都假设人工智能的开发、部署和价值实现都将以负责任的方式完成。从这个更广泛的角度来理解“负责任的人工智能”,正如我和 Tiger Analytics 的许多同事(数据架构师、数据科学家、人工智能工程师、顾问和程序协调者)所看到的那样,是一系列需要在三个不同但相互关联的层面上进行的举措。
首先,是基础科学、研究和大规模人工智能模型的开发。其次,是人工智能模型如何集成到业务流程和其他应用程序中。最后,第三个层面:变革管理,着眼于为利益相关者实现价值最大化,并尽量减少对地球上所有生命形式的负面影响。下面简要介绍一下每个层面:
1. 负责任的人工智能研发
得益于数字化互联互通的世界,我们中的许多人都知道过去一年左右 OpenAI 的辩论。在我看来,其中很大一部分是为了确保人工智能的安全:现在,更重要的是,在未来,当模型变得比人类聪明得多时。除了模型本身的性能指标外,诸如“对齐”(将人工智能模型与人类价值观对齐)或雄心勃勃的“超级对齐”(构建或增强价值体系)等主题在这一层面上也得到了认真关注。虽然这似乎是一个非常现代的问题,但艾萨克·阿西莫夫的短篇小说《The Runaround》早在 1942 年就概述了机器人的三大定律。[第一定律:机器人不得伤害人类,或因不作为而让人类受到伤害。第二定律:机器人必须服从人类给它的命令,除非这些命令与第一定律相冲突。第三定律:机器人必须保护自己的存在,只要这种保护不与第一定律或第二定律相冲突]。这些定律非常重要,尤其是当我们接近数字机器人(由自学的人工智能驱动,即使还没有感知)和物理机器人将握手的未来时。
2. 负责任的 AI 工程
AI 工程是指将模型和围绕模型的组件(如数据预处理、特征工程、用户界面等)集成到端到端 AI 应用程序中的过程,该应用程序可以持续、大规模地服务于最终目标。在某些情况下,这也被称为 AI 或 ML 产品。
24 x 7 系统可以扫描每笔金融交易以查找可能的欺诈行为,或为医疗保健提供者为其患者生成下一个最佳行动建议,或通过多种互动渠道(应用程序、聊天界面等)向客户提供个性化产品、定价或促销优惠相关建议,这些都是此类系统的一些示例。
构建这些系统需要多位技术专家 - 数据科学家、机器学习工程师、应用程序 DevOps 专业人员等,与业务分析师、顾问和最终业务用户一起工作。此类团队中的每个人都必须了解并积极实施负责任的 AI 原则。
a) 决策系统中使用的模型的可解释性:建立经典预测模型与人工神经网络和生成式 AI 模型的可解释性的方法有所不同,但主要观点依然是:模型的输出相对于输入应该合理清晰且一致
b) 做出或启用的决策应公平,以消除偏见或歧视
c) 与系统交互的最终用户的身体安全和心理健康
d) 以人为本,从两个角度来看 i) 最佳人机交互体验,以及 ii) 设计选择人机环路与端到端自动化
e) 隐私 - 个人在 AI 模型开发中使用其数据时做出的选择加入或退出选择应严格遵守。
f) 还需要通过 i) 个人明确声明遵守上述原则和 ii) 多层治理体系(与预期风险一致)来明确问责,以确保 AI 的持续和安全应用。
3. 负责任的人工智能 - 咨询和变革管理
部署基于人工智能的业务解决方案不仅仅是一项技术升级工作。在将人工智能集成到业务流程中时,仍需要考虑许多人为因素。完全自动化与人机混合人工智能通常被称为“机器人与半人马”模型。在这种情况下,负责任的人工智能需要解决几个关键问题
1) 遇到特定业务问题时,首先要问的问题是,我们是否需要人工智能来解决它。据我观察,在许多情况下,对数据的智能分析将提供可操作且有价值的见解,而在某些情况下,通过一个具有生成式人工智能包装器的人机界面的同步良好的人工智能模型系统,有很大的机会完全重新构想业务流程。在这种情况下,关键问题是:需要委托给人工智能的任务和决策的自动化程度是多少,以及此类干预的增量业务价值与成本是多少?这有助于建立变革的第一级共识。
2) 当人工智能的周密部署释放人力资本时,需要规划这种过渡,使其平稳进行,并制定足够的再培训计划。这一点尤其重要,因为组织内的某些工作角色(以及经济中的某些部门)将比其他角色更快地受到人工智能的影响。
3) 最后,如果发生人工智能中断,备用计划是什么?这与人类飞行员接管自动驾驶仪没有什么不同。我们如何确保人工智能的人类飞行员仍然有足够的技能在需要时接管?
总之,人工智能将人类潜力放大到超人水平的承诺达到了前所未有的高度。通过负责任的设计和周到的部署,我认为在机器人占主导地位之前的相当长的一段时间内,我们将生活在一个半人马座的世界里——人类和人工智能最优秀的头脑丰富了我们的体验。