欧洲议会正式通过《人工智能法案》，OpenAI 计划发布 Sora 引发虚假信息担忧

2024-03-14

大家好，欢迎收看河套 IT WALK 第 163 期。

本周三，欧洲议会正式通过了《人工智能法案》，标志着对AI技术应用和发展的监管进入到了新阶段，确保AI技术的健康和可持续发展。OpenAI即将发布的文本到视频生成器Sora，虽然展示了AI技术的进步，但也引发了人们对AI生成虚假信息可能性的担忧。

欧洲议会通过《人工智能法案》

欧洲议会周三以压倒性多数通过了《人工智能法案》，为欧盟AI的开发和应用制定了全面框架，旨在确保AI安全性，同时促进创新。

该法案于2023年12月与欧盟各成员国达成一致，并在欧洲议会议员中以523票赞成、46票反对、49票弃权的结果获得通过。这标志着欧盟在AI治理方面迈出了历史性步伐，并将对全球产生深远影响。（欧洲议会）

OpenAI 即将发布文本到视频生成器 Sora，引发对 AI 生成虚假信息担忧

OpenAI首席技术官Mira Murati在接受《华尔街日报》采访时透露，OpenAI将于今年晚些时候向公众开放其备受瞩目的文本到视频生成器Sora。

Sora能根据用户输入的文本描述生成逼真的视频场景，最初将只对视觉艺术家、设计师和电影制片人开放。OpenAI计划在未来加入音频功能，并允许用户编辑Sora生成的视频内容。

Murati并未透露Sora训练所使用的数据集细节，只表示使用了公开可获取或已获授权的数据。她还提到，Sora的运行成本“更高”，但OpenAI正努力将其公开发布时的成本降到与DALL-E等AI文本到图像模型相似。

Sora的发布引发了人们对生成式AI工具制造虚假信息潜力的担忧，Murati表示，Sora发布初期可能无法生成公众人物的图像，类似于DALL-E的政策，并且所有生成的视频将带有水印以和真实内容进行区分。（The Verge）

一方面，AI技术的创新和应用正在不断推动社会和经济的发展；另一方面，它们也带来了新的挑战和风险，尤其是在信息真实性和技术伦理方面。这要求全球各界在享用AI技术带来便利的同时，也必须高度关注并积极应对可能出现的负面影响。未来，如何在促进技术创新与保护社会利益之间找到平衡，将是所有利益相关者共同面临的重大课题。

感谢您的收看，我们下期再见。
如果对此话题感兴趣，欢迎扫码加入“共熵大家庭”，共同推动产业与标准进步！