AI 灭绝人类，到底是不是危言耸听？
图源：我的女友是机器人剧照
1
350名行业大佬警告：AI可能灭绝人类
自聊天机器人 ChatGPT 掀起 AI 热潮以来，ChatGPT 确实为人们带来了诸多便利，但同时这项新技术也面临着巨大的风险。
继此前马斯克等千人签署公开信，呼吁暂停 AI 开发六个月后，OpenAI 首席执行官 Sam Altman 等多位行业专家又来提示风险。
这封信于周二发表在非营利组织人工智能安全中心（CAIS）的网站上，签署者包括“ChatGPT 之父”Open AI 首席执行官山姆·奥特曼、DeepMind 首席执行官 Demis Hassabis、Anthropic 首席执行官 Dario Amodei 以及微软和谷歌的高管等。
这封信只有一段话：“减轻 AI 带来的灭绝风险，应该与流行病和核战争等其他社会规模的风险一起，成为全球优先事项。”
声明没有详细说明人工智能可能带来的潜在生存威胁，CAIS 表示，声明旨在带起关注对人工智能技术风险的关注及讨论。
其实早在今年 3 月，就一篇有关叫停 6 个月 AI 研究的公开信火遍了全网。
公开信指出，如果不能迅速实施此类暂停，政府应当介入并采取措施。此外，“AI 实验室和独立专家应该利用这次暂停，共同开发和实施一套用于高级 AI 设计和开发的共享安全协议，并由独立的外部专家进行严格审计和监督”。
这封信当时在多个层面受到批评，一些专家认为它夸大了人工智能带来的风险，而一些人则赞同存在这种风险，但不同意信中建议的措施。
然而 ChatGPT 之父等 350 余名权威联署签名警告又一次掀起了全球大辩论：AI 究竟会不会让人类灭绝？该不该暂停 AI 的研发？
“AI 灭绝人类”，咋一听确实是有些危言耸听，但这些 AI 大佬们的担忧也不无道理，显然他们是洞悉了 AI 在未来有可能产生自主意识，所以才提前发出警告。
不过，与其考虑是否要暂停 AI 的研发，我们更应当多花点心思在如何立法，以及如何加强监管 AI 方面提早做一些准备。
2
AI 监管已成共识
以 ChatGPT 为代表的 AI 技术狂飙式发展，让技术的双刃剑特性愈演愈烈。在革新生产力的同时，AI 安全尤其内容安全引发担忧。
日前，AI 生成违法违规内容、AI 诈骗等乱象层出不穷，“通过 AI 换脸向好友借钱，10 分钟被骗 430 万、9 秒被骗走 245万”、“通过 AI 合成语音电话，勒索赎金”等国内外诈骗事件不断冲上热搜。
这也让更多人意识到：AI 智能工具正在以超越以往的速度，制造出新的、智能化的威胁，其危害性正在冲破传统的安全防护屏障。对此，加快制定 AI 监管政策已迫在眉睫、势在必行。
目前来看，AI 可能带来的风险已经受到世界各国和各界的重视。此前，意大利等国家对 ChatGPT 发起监管，暂停其的使用。
而且，欧盟正在推进《AI 法案》，该法案有望成为世界上第一个监管 AI 的全面立法，还将监管 ChatGPT 等新兴 AI 技术。
美国方面，本月早些时候，OpenAI 创始人 Sam Altman 会见了美国总统拜登，并在参议院司法委员会作证，要求加强对 AI 行业的监管。
他称，“随着这项技术的进步，我们明白人们对它如何改变生活方式感到焦虑。”他指出，“我最担心的是 AI 会对世界造成重大伤害”，新技术可以解决人类面临的大问题，但人工智能的力量足以以不可预测的方式改变社会。
中国方面，4 月 11 日，国家互联网信息办公室发布的《生成式人工智能服务管理办法（征求意见稿）》（简称《管理办法》）明确提出“利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息”。
这为加强 AI 生成内容管理提供了基本遵循，希望相关措施进一步细化，并加快出台。
3
结语
每项革命性的技术进步，都是各有利弊。ChatGPT 技术也是一把双刃剑，我们需要采取有效措施避免不应有的各种灾难。
同时，我们也需要更加深入地思考，让技术开出绚丽之花，为我们造福。
求分享
求点赞
求在看
文章引用微信公众号"OST开源开发者",如有侵权,请联系管理员删除!
