百度 我所做的一切都来源于对美好生活的勾勒和追寻，对地球未来的魂牵梦萦。
了解内置 Gemini 的 Google Workspace 如何帮助用户防范恶意内容和提示注入攻击。
生成式 AI 中的恶意内容和提示注入
与恶意软件和钓鱼式攻击等针对邮件和内容的威胁类似，一些安全威胁也可能会将生成式 AI 工具作为攻击目标。提示注入是指试图从生成式 AI 工具中引出非预期或有害的回答。攻击者施行提示注入的方式包括：直接提交查询，或通过与用户分享恶意内容，让用户在生成式 AI 工具（例如 Gemini 应用或内置 Gemini 的 Google Workspace）的提示中无意间引用这些恶意内容。
为保护 Gemini 用户，Google 采用先进的安全措施来识别存在风险的可疑内容。
Google 如何检测恶意内容和提示注入
为帮助您防范恶意内容和提示注入，Gemini 在检测到恶意活动时，可能会从侧边栏中滤除或屏蔽某些回答。
如果 Gemini 发现与某个提示相关的活动可能具有恶意
- Gemini 侧边栏中会发出警告，提醒您相应内容存在安全风险。
- Gemini 有时无法使用您的任何内容来生成回答。
- Gemini 有时只会使用部分内容来生成回答，并会排除恶意内容。
例如，如果您让 Gmail 中的 Gemini 总结邮件内容，而其中某封邮件包含恶意内容，那么出于安全考虑，Gemini 可能不会针对您的提示给出回答。
防范不安全内容
接触来路不明内容时的注意事项
- 留意 Google 在 Gmail 等工具中对接收内容发出的警告。
- 请勿点击来自不可信来源的链接。
- 谨慎对待未知发件人分享的内容（例如云端硬盘中的文件）。
在 Gmail 中举报恶意邮件
如在 Gmail 中收到欺骗性消息或网址，可按钓鱼式攻击内容举报。钓鱼式攻击是指利用看似合法的欺骗性邮件、消息、广告或网站，试图窃取个人信息的行为。例如，钓鱼邮件可能会伪装成银行发来的邮件，要求您提供银行账户私密信息。了解如何在 Gmail 中举报钓鱼邮件。
在 Google 文档和云端硬盘中举报恶意文档
如在 Google 文档和云端硬盘中收到恶意文档、文件、图片等内容，您可以直接举报。了解如何举报滥用内容。
在 Workspace 应用中的 Gemini 中举报滥用行为
如果您认为得到的回答不准确或存在安全风险，可就该回答提供反馈，告知我们具体情况。了解如何在 Workspace 应用中的 Gemini 中举报滥用行为。