揭开人工智能的神秘面纱，减轻其负面影响

Shlomi Hod（波士顿大学博士候选人，CS）领导国会关于人工智能的法律、伦理和社会影响的研讨会

作者：玛格丽特·斯坦顿，哈里里计算新濠影汇线上赌场研究所

由于对隐私、偏见、安全和安保的担忧日益加剧，人工智能（AI）的兴起已经暂停。虽然许多系统因其积极影响而受到称赞，例如它们用于帮助组织检测和报告儿童性虐待和人口贩运，但其他应用程序却造成了伤害。

OpenAI的Chat-GPT引起了人们对学生普遍作弊的担忧。ai生成的Drake/The Weeknd歌曲《Heart on My Sleeve》引发了整个音乐界的法律抗议。

更令人不安的是，美国国家饮食失调协会（NEDA）在发现人工智能工具Tessa出人意料地开始鼓励患有厌食症、贪食症和其他饮食失调症的人减肥和节食后，暂停了它的聊天机器人。

NEDA对这一问题的解释是，他们并不知道对Tessa进行了更新，导致聊天机器人超越了预先编程的、经批准的反应，产生了自己的反应。设计Tessa的卡斯公司解释说，这次更新和聊天机器人的新响应功能虽然出人意料，但与NEDA的合同是一致的。

随着人工智能继续渗透到我们的社会，这些挑战预计将继续存在，并且需要为这些系统的设计、部署和维护提供指导方针。

立法者正在起草政策，为这项技术实施法规和保护措施。然而，很少有人有必要的背景来理解人工智能是如何工作的，以及它可能产生的影响。

今年8月，国会新濠影汇赌场有机会在波士顿大学计算机科学博士候选人Shlomi Hod的帮助下提高他们的技术灵敏度，他的顾问是波士顿大学计算与数据科学学院和计算机科学系教授、哈里里新濠影汇线上赌场研究所RISCS中心主任Ran Canetti。

新墨西哥州参议员本·雷Luján的办公室邀请霍德来到华盛顿特区，就人工智能的伦理、法律和社会影响举行研讨会。研讨会是霍德在波士顿大学联合教授的一门课程的浓缩版，该课程向全球其他学术机构的学生提供。

为期两天的实践研讨会的目的是提高国会新濠影汇赌场的负责任的人工智能素养，以帮助他们提高对当前问题的理解，并与专家进行有效沟通。以人工智能系统中嵌入的人类价值为重点，研讨会参与者设计和分析了人工智能系统，探索了人工智能设计选择与伦理和法律影响之间的关系。

“我们试图为员工正在处理的各种问题创建一个量身定制的项目。例如，基础模型，如Chat-GPT背后的技术，允许开发人员创建看似工作良好的系统，而无需进行适当的性能评估，”Hod解释说。“我们想要揭开这项技术的神秘面纱，帮助员工了解它是如何构建的，它的局限性是什么，以及如何以安全的方式部署它，如果在目前的状态下有的话。”

国会新濠影汇赌场负责收集信息，包括在国会听证会之前采访行业专家和其他专业人士。他们将这项新濠影汇线上赌场研究报告提交给参议员和众议员，并参与起草法案。随着人工智能在华盛顿特区新立法的最前沿，员工不仅要对技术的工作原理及其影响有基本的了解，而且要能够在工作和对话中批判性地传达这些知识，这一点至关重要。

“公司、记者、学者，每个人都在发布关于人工智能的信息，”霍德说。“随着新闻和网络上对人工智能的大肆宣传，我们的目标是让员工能够批判性地审视人工智能的主张，并从噪音中获得信号。”

Hod的研讨会有助于弥合政府和人工智能系统开发商之间的差距，采取措施使人工智能的使用更安全。通过不同专业的学者和政策制定者之间的对话，可以创造出寻找人工智能监管解决方案的新方法。

霍德解释说：“我们希望利用现有知识了解员工目前面临的挑战，这样我们就可以支持他们制定更有效的法规。”在未来，这可以采取研讨会的形式，专注于解决这些挑战。

本次研讨会由波士顿大学、IEEE-USA、以色列理工学院和特拉维夫大学共同主办，以波士顿大学目前开设的一门由Hod: CDS DS 682共同教授的课程为基础：“负责任的人工智能、法律、伦理和社会”。在过去的几年里，该课程是与特拉维夫大学、以色列理工学院和博科尼大学合作开设的。该课程采用一种培训方法来获得负责任的人工智能素养，并获得促进法律、商业、计算机科学和数据科学学科专业人员之间就负责任的人工智能进行有效对话的能力。它探讨了人工智能的公平、责任、透明度和隐私价值等主题。2024年春季，这门课程将在波士顿大学和加州大学伯克利分校共同开设。

“通过将不同学科的人聚集在一起，我们可以创造结构化的经验，以调查人工智能的规范后果，”霍德说。

Shlomi Hod是波士顿大学计算机科学博士新濠影汇线上赌场研究生四年级的学生。他对负责任的人工智能的新濠影汇线上赌场研究兴趣主要集中在政府数据的不同私人合成数据，计算机科学与法律之间的互动以及可解释的机器学习。在来到波士顿大学之前，Hod共同创立了以色列网络教育中心，在那里他们领导了儿童和青少年网络教育项目的发展。Hod还曾在以色列政府工作，从事网络安全和数据科学的交叉工作

更多关于研讨会的信息可以在这里找到。

新闻查询，联系stanton@bu.edu