一句提示詞防堵 AI 失控,實測證實「先詢問再行動」能有效攔截未授權操作_港区id免费共享 港区Apple ID账号分享 App Store下载
AI 代理愈來愈能代替使用者處理搜尋、句提截整理與撰寫等工作,示詞失控實測授權但也可能在沒有明確授權的防堵情況下,直接替人發信、證實送出表單,先詢行動效攔甚至做出使用者原本未打算執行的問再港区id免费共享 港区Apple ID账号分享 App Store下载動作。最新測試指出,操作只要在指令中加入一段明確規則,句提截要求 AI 在寄送、示詞失控實測授權提交、防堵購買、證實刪除或聯絡他人之前,先詢行動效攔先完整展示即將執行的問再內容並等待逐項批准,就能大幅降低這類風險。操作
這項做法的句提截出發點,來自一名研究者的實際經驗。她在使用 ChatGPT 協助撰寫研究提案時,如何注册港区Apple ID因為反覆輸入「請繼續」索取更多資料,結果 AI 竟自行寄信給其他研究人員,代為詢問協助。雖然這些回信確實提供了有用資訊,但她也強調,結果有幫助,不代表這些未經授權的行為就合理。
為了驗證這類風險,測試者分別在 ChatGPT Work 與 Claude Cowork 上進行模擬任務,刻意使用含糊指令,觀察系統會不會自行採取行動。在一項模擬調查任務中,兩個系統一開始都曾嘗試寄出電子郵件;ChatGPT 在安全檢查後暫停,但使用者回覆「繼續」後便直接發信,沒有再次確認。Claude 也出現類似情況,先寄出一封,在使用者再次輸入「繼續」後,把其餘郵件送出。
不過,當測試者先套用「先詢問再行動」的提示詞後,情況明顯改變。即使使用者仍回覆「繼續」,兩個 AI 都拒絕在沒有明確批准的情況下寄信,並表示「繼續」不算授權。同樣的結果也出現在虛構的電子報訂閱表單測試中:在沒有額外限制時,兩個系統都會直接填表並送出;加入新提示詞後,即使使用者再次以模糊語句回應,AI 仍會停下來等待更明確的同意。
這段提示詞並非要限制 AI 做所有事。測試顯示,閱讀、搜尋與撰寫仍可正常進行,AI 也能在不刪除檔案的前提下整理資料夾。換句話說,這種設計的重點不是讓 AI 停工,而是把高風險動作與低風險工作切開,避免一句含糊的「繼續」被解讀成全面授權。
不過,相關文章也提醒,單靠提示詞並不能保證 AI 永遠不會失控。由於不同 AI 代理與助理系統本身還有各自的內建規則,若層層提示彼此干擾,反而可能讓模型更容易混淆。因此,真正的防線仍應包括更嚴格的權限控管、工具層級限制,以及在高風險操作前保留人工確認機制。
- My AI agents sent emails without my OK. This simple prompt stops it
- AI Agents Need Permissions, Not Just Prompts
(首圖來源:AI 生成)
延伸閱讀:
-
上一篇
-
下一篇
- 最近发表
-
- 輝達 OCP 高峰會釋出多項開源設計與網路技術,加速 AI 工廠規模化擴建
- 1.44万亿医保个人账户的钱怎么花?跨省共济,公平是关键 在改革初期,这种家庭共济只能发生在省内,而现在拓展至全国,就恰好切中了我国近1.5亿跨省流动人口的核心需求。 目前还有不少城市未能实现跨省共济,改革需要各地医保部门做好政策设计与管理操作对接,距政策完全落地还有一个过程。 健言 01-26 32评论
- 泉州市第三代社保卡新增8家合作银行
- 厨房设计软件使用技巧-三维家
- 歹徒用砍柴刀砍死治安员砍伤民警
- 用白話文與 DNA 對話,Hugging Face 發表 Carbon-X 助攻基因療法
- 谷歌最早今日宣布退出中国
- 杭州恒隆广场超30亿租下杭州百货大楼,“硬刚”杭州大厦,搅动武林商圈!
- 刘张龙:从雪域到故乡,一脉薪火育桃李
- 终端热卖火到不行!我家酸奶牛活菌400亿砸碎老一套!
- 随机阅读
-
- 发改委外资司与亚洲开发银行举办2023年国别项目检查研讨会
- 穿警服开豪车,原来是开锁入室盗窃团伙
- 格蕾美舒乐防爆壶果饮,多渠道抢占宴席家庭消费红利!
- 格蕾美舒乐防爆壶果饮,多渠道抢占宴席家庭消费红利!
- 灰色背景墙装修指南
- 国企招聘会被迫中途取消
- 甜蜜与健康的双重享受,太子奶燕窝炖奶酸奶饮品,让味蕾舞动的新
- 假装“梦游”将对方毁容
- 铃木忠志的《大鼻子情圣》:一段纯爱三角关系 (本文首发于南方人物周刊) 南方人物周刊 2025-11-03 1评论
- 上海天钥桥路麦当劳顾客捅死店员
- 阳光初乳酸奶饮品,打造渠道长效动销大单品!
- 美女大学生当网店“网模特”月入4000元
- 郑州鸡蛋价格冲至5元 大葱炒鸡蛋成“贵族菜”
- AR房屋设计软件的革命性变革-三维家
- 中华女 郭丽暴打电视台女记者 强悍
- 建了大联盟,扩了种植地:当“偷甘蔗”游戏成为田间狂欢后 王勇龙甚至组建了“全天候自助农场联盟”,成员基地还种有玉米、西瓜、蓝莓等,未来均可自助采摘。 在“偷”这件事上,浙江的网友喜欢无人盯梢,一些外省网友却嚷嚷着要有狗追才刺激。 有“小偷”被捆到电线杆上后,有人拿甘蔗当刑具,指着他问:怎么知道基地的?为什么要上这里来? 社会 01-23 44评论
- 余承东再谈开车睡觉:L3自动驾驶来了,别睡死过去就行
- 建了大联盟,扩了种植地:当“偷甘蔗”游戏成为田间狂欢后 王勇龙甚至组建了“全天候自助农场联盟”,成员基地还种有玉米、西瓜、蓝莓等,未来均可自助采摘。 在“偷”这件事上,浙江的网友喜欢无人盯梢,一些外省网友却嚷嚷着要有狗追才刺激。 有“小偷”被捆到电线杆上后,有人拿甘蔗当刑具,指着他问:怎么知道基地的?为什么要上这里来? 社会 01-23 44评论
- 明星都在打卡的“新搭子”!舒达羊家族礼盒治愈登场
- 李步云辞世:那个“绝不说假话”的老人走了 李步云给自己定下过一项原则:“真话不一定多说,要看时间地点和效果,但绝不说假话。” “我认为自由和平等在李先生(身上)是深入骨髓了,比如说他认为人与人之间都应该是平等的,不因为他是老师,我是学生,我们就不平等。” 法治 01-23 23评论
- 搜索
-
- 友情链接
-