发布时间:2024-08-23 17:04:57 来源:本站 作者:admin
联邦情报和安全机构对该组织的最新报告作出回应,强调了开放的重要性,但一些人指出,他们的工作性质限制了他们可以公开披露的内容。
安全机构已经在使用人工智能来完成从文件翻译到检测恶意软件威胁等各种任务。该报告预计,人们将越来越依赖该技术来分析大量文本和图像、识别模式以及解释趋势和行为。
随着人工智能在国家安全界的使用不断扩大,“公众必须更多地了解国家边境、警察和间谍服务的目标和承诺”,报告称。
“必须设计和实施适当的机制,以加强政府内部的系统性和主动性开放,同时更好地进行外部监督和审查。”
报告称,随着政府与私营部门就国家安全目标展开合作,“开放和参与”是创新和公众信任的关键推动因素,而“保密会滋生怀疑”。
报告指出,向公众解释人工智能内部运作的一个关键挑战是“算法和机器学习模型的不透明性”——所谓的“黑匣子”,可能意味着即使是国家安全机构也会对自己的人工智能应用失去理解。
渥太华发布了关于联邦使用人工智能的指导意见,包括在创建辅助或取代人类决策者判断的系统之前,要求进行算法影响评估。
它还提出了《人工智能和数据法案》,目前已提交议会,以确保负责任地设计、开发和推出人工智能系统。
然而,该法案和新的人工智能专员对安全机构等政府机构没有管辖权,这促使咨询小组建议渥太华考虑将拟议的法律扩大到涵盖这些机构。
加拿大的网络间谍机构通信安全局长期以来一直处于使用数据科学筛选和分析大量信息的前沿。
该机构表示,利用人工智能的力量并不意味着将人类从这一过程中移除,而是让他们能够做出更好的决策。
在其最新年度报告中,CSE 描述了使用其高性能超级计算机来训练新的人工智能和机器学习模型,包括定制的翻译工具。
该工具可以翻译 100 多种语言的内容,于 2022 年底推出,并于次年向加拿大的主要外国情报合作伙伴提供。
CSE 的网络中心已使用机器学习工具来检测针对政府的网络钓鱼活动,并发现联邦网络和系统上的可疑活动。
在回应咨询小组报告时,CSE 指出了其为促进公众对人工智能的了解而做出的各种努力。
然而,它指出 CSE“在保护国家安全的职责范围内面临着独特的限制”,这可能会给发布其当前和计划中的人工智能使用细节带来困难。
“为了确保我们对人工智能的使用仍然合乎道德,我们正在制定全面的方法来治理、管理和监控人工智能,我们将继续借鉴最佳实践和对话,以确保我们的指导反映当前的想法。”
加拿大安全情报局负责调查包括极端主义活动、间谍活动和外国干涉在内的威胁,该局对透明组织的报告表示欢迎。
该间谍机构表示,正在努力将有关使用人工智能的计划和治理正式化,所有考虑都以透明度为基础。但它补充说:“鉴于 CSIS 的授权,为了保护运营的完整性,可以公开讨论的内容存在重要限制,包括与使用人工智能相关的事项。”
2021 年,当时的联邦隐私专员 Daniel Therrien 发现,加拿大皇家骑警使用尖端的面部识别软件收集个人信息违反了法律。
Therrien 表示,在收集美国公司 Clearview AI 的信息之前,加拿大皇家骑警在确保遵守《隐私法》方面存在严重的系统性失误。
Clearview AI 的技术允许从各种来源收集大量图像,这些图像可以帮助警察部队、金融机构和其他客户识别人员。
在对 Clearview AI 的担忧中,皇家骑警创建了技术入职计划,以评估收集技术是否符合隐私立法。
透明度咨询小组报告敦促皇家骑警向公众详细介绍该计划。“如果入职计划下开展的所有活动都是秘密的,透明度将继续受到影响。”
加拿大皇家骑警表示,计划很快发布一份透明度蓝图,概述入职计划负责任地使用技术的关键原则,以及该计划评估的工具的详细信息。
皇家骑警表示,他们还在制定一项关于使用人工智能的国家政策,其中将包括确保工具和保障措施透明度的手段。
透明度咨询小组还指责政府没有公开报告其透明度承诺的进展或成就。它建议对承诺进行正式审查,并“公开报告已采取的举措、迄今为止的影响以及未来的活动”。
加拿大公共安全部表示,该报告的各种建议已与该部门的副部长和更广泛的国家安全界(包括相关委员会)分享。
然而,该部门没有透露是否同意这些建议或提供实施这些建议的时间表。
加拿大新闻社的这份报告于 2024 年 8 月 23 日首次发布。