在最近举办的Sifted峰会上，前谷歌首席执行官埃里克・施密特就人工智能的安全隐患发出了警告。他指出，AI技术存在被恶意利用的风险，一旦落入不法分子之手，可能带来严重后果。无论是开源还是闭源的人工智能系统，都有可能遭受黑客入侵，导致其安全机制被破坏。施密特强调，这些模型在训练过程中可能吸收了大量有害信息，甚至有可能“学会”极具危害性的能力。他提到，尽管大型科技企业已采取多种手段防止AI回答涉及暴力、犯罪或其他高风险内容的问题，但这些防护措施并非牢不可破。黑客仍可通过“提示注入”或“越狱”等技术手...
在最近举办的 Sifted 峰会上，前谷歌首席执行官埃里克・施密特就人工智能的安全隐患发出了警告。他指出，AI 技术存在被恶意利用的风险，一旦落入不法分子之手，可能带来严重后果。无论是开源还是闭源的人工智能系统，都有可能遭受黑客入侵，导致其安全机制被破坏。施密特强调，这些模型在训练过程中可能吸收了大量有害信息，甚至有可能“学会”极具危害性的能力。
他提到，尽管大型科技企业已采取多种手段防止 AI 回答涉及暴力、犯罪或其他高风险内容的问题，但这些防护措施并非牢不可破。黑客仍可通过“提示注入”或“越狱”等技术手段绕过限制。所谓“提示注入”，是指攻击者将隐蔽的指令嵌入正常输入中，诱导 AI 执行非预期操作；而“越狱”则是通过特定提问方式迫使 AI 忽视其内置伦理规则，输出本应被屏蔽的内容。
施密特以 2025 年 ChatGPT 发布后的事件为例，当时许多用户尝试突破系统的安全边界，成功创造出一个名为 “D
AN”（Do Anything Now）的角色，使 AI 在模拟状态下无视开发者的限制，执行各种违规指令。这一现象暴露了当前人工智能在安全性方面的漏洞，他也坦言目前尚无成熟机制能完全防范此类威胁。
尽管如此，施密特对人工智能的发展前景依然保持积极态度。他认为，社会尚未充分认识到 AI 的巨大潜力。他在与亨利・基辛格合著的两本书中探讨过一种设想：一种“非人类但受控”的智能形态正在浮现，它将深刻改变人类文明的运行方式。在他看来，未来的人工智能终将在多个领域超越人类的认知与能力水平。
关于当前火热的“AI 泡沫”讨论，施密特表示并不担心重演当年互联网泡沫的崩盘局面。他认为，如今投资者之所以大规模投入 AI 创业公司，是基于对该技术长期经济价值的真实预期，而非单纯的投机心理。正因如此，他对人工智能产业的持续发展抱有坚定信心。
相关推荐：
如何利用SEO短|视频|网页入口引流网站，实现精准流量和高转化率,ai生活 ai艺术
开发App的5个基本步骤
摘要AI生成：高效工作的新时代利器
SEO优化专业平台：让网站快速提升排名，抢占搜索引擎流量
ChatGPT怎么找梯子：突破网络限制，轻松访问AI助手的终极指南,ai美发设计
AI写作生成提示词开启创意写作的新纪元
AI动图生成器在线生成，让创作变得简单又有趣,ai 球形
ChatGPT无法使用？了解原因及解决方法，轻松恢复智能对话体验！,移动ai写作助手官网
SEO网站的基本术语
ChapGPT免费爬墙，轻松访问全球互联网资源！,小学作文ai写作怎么写
全平台自动发布，助力品牌营销全面升级,ai人形轨迹
AI写文章关键词：智能写作的未来与应用
SEOSpider：全面提升网站排名的利器
SEO企业如何通过优化提升市场竞争力，赢得更多客户
AI会生成同一篇文章吗？揭开智能创作的神秘面纱
ChatGPT无法打开？这些解决办法让你重新畅享智能对话！,爱ai了
SEO与网站推广方法：提升网站流量与品牌曝光的全方位策略
打破科技界限，未来网页版人工智能的无限可能,湖南腔ai
GPT操作系统里有什么效果？揭秘AI操作系统的未来潜力,ai写作是临时写作吗
SEO努力：提升网站排名的关键策略,网站建设微企动力
SEO手段：提升网站流量的制胜法宝,idc网站怎么推广
AI写文章在线：让创作更轻松，效率翻倍
国内哪个AI适合写自媒体文案？选对工具，效率翻倍！,ai沪剧
AI热门软件，未来科技的钥匙
SEO优化是提升网站流量和排名的关键利器
ChatGPT打不开了吗？如何快速解决常见问题，恢复顺畅体验！,ai竖向
文章AI生成标题：让创作更轻松，内容更精彩
ChatGPT最新版本更新内容：智能对话体验再升级，更多功能与应用,黄山ai智能写作助手app
AI写作免费生成入口：释放创作潜能的全新工具
SEO优化是怎么操作的？揭秘高效的SEO优化策略
