纽约市旨在遏制人工智能偏见的法律生效

随着人工智能工具被企业迅速采用，纽约市的法律旨在防止就业决策中的偏见。

人工智能  图片：Shutterstock

周三，专注于人工智能驱动的就业工具的新立法在纽约市生效，禁止雇主和机构使用自动就业决策工具（AEDT），除非该工具在去年经过了偏见审计。

根据 2021 年地方法 144，新规则旨在防止偏见并确保使用人工智能的就业决策的公平性。

除了一年的审计窗口外，纽约市消费者和工人保护部 (DCWP) 规则还要求审计结果向公众公开，并且必须向员工和求职者提供适当的通知。

自动化就业决策工具可协助或取代自行决策。这些工具的例子包括 Freshworks、Breezy HR、Greenhouse 和 Zoho Recruits，它们可以筛选或预筛选简历。

“DCWP 将收集并调查[偏见]投诉，”部门发言人通过电子邮件告诉Decrypt。该机构补充说：“对违法行为的民事处罚将根据具体情况计算。”并解释说，法律允许在使用 AEDT 违法的每一天分别进行单独的违法行为。

6 月份，商业评论网站B2B Reviews报告称，接受调查的人力资源部门中有 21% 使用 OpenAI 的 ChatGPT 等人工智能工具进行培训和开发，平均每周节省 70 分钟。十分之一的人力资源部门还表示，他们使用聊天机器人起草解雇信。

该发言人表示：“在制定 AEDT 规则时，我们努力在求职者的权利和企业的需求之间取得适当的监管平衡，正如我们的规则制定过程所反映的那样。”