之江实验室2023生成式大模型安全与隐私白皮书

OpenAI 于 2022 年 11 月 30 日开放测试 ChatGPT，此后 ChatGPT 风靡全 球，在 1 月份的访问量约为 5.9 亿。AI 驱动的聊天机器人 ChatGPT 成为互联网 发展二十年来增长速度最快的消费者应用程序。ChatGPT 和 GPT4 的诞生引发了 生成式大模型的研发热潮，显示了人类迈向通用人工智能(AGI)的可能性。

但在其备受追捧的同时，ChatGPT 等生成式大模型也面临 AI 自身数据和模 型方面的安全隐患。我们应该意识到，在生成式大模型带来各种革命性的技术进步 的同时，其自身带来的一系列安全与隐私问题也值得我们注意，例如引发的数据 泄漏，助长虚假信息传播等。在本白皮书中，我们首先总结了 ChatGPT 与 GPT4 等生成式大模型模型的发展历程，以及其带来的各种令人惊叹的能力和社会变革， 社会应用等。而后，我们归纳了 ChatGPT 与 GPT4 等生成式大模型中存在的安 全与隐私问题，包括数据安全，模型使用安全，版权问题，伦理问题等。最后，我 们为应对这些安全与隐私问题提出了相应的应对策略，重点强调了日后亟需进行 的研究和法规调整等。特别是为之后 AGI 技术的持续革新，起到未雨绸缪的预防。