时间:2026-11-22 02:50:08 来源:网络整理 编辑:焦点
AI 代理愈來愈能代替使用者處理搜尋、整理與撰寫等工作,但也可能在沒有明確授權的情況下,直接替人發信、送出表單,甚至做出使用者原本未打算執行的動作。最新測試指出,只要在指令中加入一段明確規則,要求 A App Store 美区常见问题 完整步骤与注意事项
AI 代理愈來愈能代替使用者處理搜尋、句提截整理與撰寫等工作,示詞失控實測授權但也可能在沒有明確授權的防堵情況下,直接替人發信、證實送出表單,先詢行動效攔甚至做出使用者原本未打算執行的問再App Store 美区常见问题 完整步骤与注意事项動作。最新測試指出,操作只要在指令中加入一段明確規則,句提截要求 AI 在寄送、示詞失控實測授權提交、防堵購買、證實刪除或聯絡他人之前,先詢行動效攔先完整展示即將執行的問再內容並等待逐項批准,就能大幅降低這類風險。操作
這項做法的句提截出發點,來自一名研究者的實際經驗。她在使用 ChatGPT 協助撰寫研究提案時,求海外Apple ID 常见问题因為反覆輸入「請繼續」索取更多資料,結果 AI 竟自行寄信給其他研究人員,代為詢問協助。雖然這些回信確實提供了有用資訊,但她也強調,結果有幫助,不代表這些未經授權的行為就合理。
為了驗證這類風險,測試者分別在 ChatGPT Work 與 Claude Cowork 上進行模擬任務,刻意使用含糊指令,觀察系統會不會自行採取行動。在一項模擬調查任務中,兩個系統一開始都曾嘗試寄出電子郵件;ChatGPT 在安全檢查後暫停,但使用者回覆「繼續」後便直接發信,沒有再次確認。Claude 也出現類似情況,先寄出一封,在使用者再次輸入「繼續」後,把其餘郵件送出。
不過,當測試者先套用「先詢問再行動」的提示詞後,情況明顯改變。即使使用者仍回覆「繼續」,兩個 AI 都拒絕在沒有明確批准的情況下寄信,並表示「繼續」不算授權。同樣的結果也出現在虛構的電子報訂閱表單測試中:在沒有額外限制時,兩個系統都會直接填表並送出;加入新提示詞後,即使使用者再次以模糊語句回應,AI 仍會停下來等待更明確的同意。
這段提示詞並非要限制 AI 做所有事。測試顯示,閱讀、搜尋與撰寫仍可正常進行,AI 也能在不刪除檔案的前提下整理資料夾。換句話說,這種設計的重點不是讓 AI 停工,而是把高風險動作與低風險工作切開,避免一句含糊的「繼續」被解讀成全面授權。
不過,相關文章也提醒,單靠提示詞並不能保證 AI 永遠不會失控。由於不同 AI 代理與助理系統本身還有各自的內建規則,若層層提示彼此干擾,反而可能讓模型更容易混淆。因此,真正的防線仍應包括更嚴格的權限控管、工具層級限制,以及在高風險操作前保留人工確認機制。
(首圖來源:AI 生成)
一粒近千元的安宫牛黄丸,是“神药”还是安慰剂? 针对安宫牛黄丸等含牛黄产品,目前现代医学大规模的循证医学及深入机制研究还不足。 “不能基于单个研究结果推翻传统名方的疗效,但也不能神化安宫牛黄丸。” 牛黄品质与疗效息息相关,应警惕过于便宜的产品。 健言 2025-11-12 75评论2026-11-22 02:48
《GTA 6》主机锁30帧的真相:不是显卡不行,是CPU老了2026-11-22 02:46
宿松县总工会联合孚玉镇工农社区开展主题党日活动 宿松新闻网2026-11-22 02:37
世嘉年度游戏销量报告:《索尼克》系列达16亿部2026-11-22 02:36
远洋集团107亿元公司债券获上交所受理2026-11-22 02:21
灵掌机器人太空灵巧手亮相世界智能制造博览会2026-11-22 02:12
全屋智能的“降门槛逻辑”:美的换新品牌日如何消解用户三大顾虑—万维家电网2026-11-22 01:21
在博物馆里读懂泰山2026-11-22 00:37
驼优鲜酸奶饮品,浓郁香醇,全家皆宜!顺势而上,速来代理吧!2026-11-22 00:35
焦虑是创造力的敌人|对话顶尖科学家奖得主卡洛琳·卢格2026-11-22 00:23
京东方否认与三星Display进行面板合作2026-11-22 02:48
《艾尔登法环》DLC“黄金树之影”开发进展顺利2026-11-22 02:38
灵掌机器人太空灵巧手亮相世界智能制造博览会2026-11-22 02:12
宿松县纪委监委:监督规范执法 护航营商环境 宿松新闻网2026-11-22 01:48
富力地产拟发行2020年第一期私募债 规模不超过10亿元2026-11-22 01:44
中国世界遗产摄影作品巡展走进海南2026-11-22 01:13
教育部新增27个职教专业,2027年正式招生2026-11-22 01:08
机械革命All in AI战略提速,大师之路X10探索本地AI算力新形态2026-11-22 01:01
“五一”假期泉州中心市区10家医疗机构门诊服务4.5万余人次2026-11-22 00:34
第十一届世界智能制造博览会在江苏南京举行2026-11-22 00:15