91精品国产综合久久四虎久久_国产成人午夜高潮毛片_99er视频精品免费观看_2020亚洲熟女在线观看_日本女优人体写真_国内黄色毛片_年轻的老师中文版在线_丰满女邻居做爰_久久久久久精品成人免费图片

 
大語(yǔ)言模型安全：構(gòu)建安全的AI應(yīng)用
大語(yǔ)言模型安全：構(gòu)建安全的AI應(yīng)用
Steve Wilson 著
郭笑鵬, 侯振偉, 鐘季龍, 徐麗霞 譯
出版時(shí)間：2025年09月
頁(yè)數(shù)：189
“Steve Wilson的這本書對(duì)于人工智能開(kāi)發(fā)者和紅隊(duì)成員來(lái)說(shuō)至關(guān)重要。它將巨大的風(fēng)險(xiǎn)轉(zhuǎn)化為可管控的挑戰(zhàn)，提供了保障大語(yǔ)言模型應(yīng)用安全的專業(yè)知識(shí)?！?br /> ——Marten Mickos
HackerOne首席執(zhí)行官
“這本由大語(yǔ)言模型安全之父Steve Wilson撰寫的著作是創(chuàng)新者的必讀書?！?br /> ——Sherri Douville
Medigram首席執(zhí)行官
“Steve Wilson寶貴的行業(yè)專業(yè)知識(shí)，加之他針對(duì)快速變化的領(lǐng)域所采用的獨(dú)特且靈活的方法，使得這本書成為必讀之作?！?br /> ——Ads Dawson
Cohere公司資深安全工程師

大語(yǔ)言模型（LLM）不僅在塑造人工智能的發(fā)展軌跡，還揭開(kāi)了一個(gè)安全挑戰(zhàn)新紀(jì)元。本書將帶你直面這些威脅的核心。作者Steve Wilson是“OWASP大語(yǔ)言模型應(yīng)用十大安全風(fēng)險(xiǎn)”項(xiàng)目的負(fù)責(zé)人，他著重闡述了在使用大語(yǔ)言模型開(kāi)發(fā)軟件時(shí)必須應(yīng)對(duì)的獨(dú)特特征與漏洞。
這本面向開(kāi)發(fā)者和安全團(tuán)隊(duì)的手冊(cè)提供了真實(shí)場(chǎng)景下的指導(dǎo)和切實(shí)可行的策略，助力你應(yīng)對(duì)大語(yǔ)言模型應(yīng)用相關(guān)的問(wèn)題。無(wú)論你是在設(shè)計(jì)新應(yīng)用，還是為現(xiàn)有應(yīng)用增添人工智能功能，本書都是你掌握人工智能下一個(gè)前沿領(lǐng)域安全態(tài)勢(shì)的必備資源。
通過(guò)閱讀本書，你將學(xué)到：
● 大語(yǔ)言模型為何會(huì)帶來(lái)獨(dú)特的安全挑戰(zhàn)。
● 如何應(yīng)對(duì)與使用大語(yǔ)言模型技術(shù)相關(guān)的風(fēng)險(xiǎn)。
● 與大語(yǔ)言模型相關(guān)的威脅態(tài)勢(shì)以及必須堅(jiān)守的關(guān)鍵信任邊界。
● 部署防御措施以抵御針對(duì)主要漏洞的攻擊的方法。
● 改進(jìn)軟件開(kāi)發(fā)流程以確保構(gòu)建安全可靠的人工智能應(yīng)用的途徑。
  1. 前言
  2. 第1章 聊天機(jī)器人之殤
  3. 1.1 讓我們談?wù)凾ay
  4. 1.2 Tay的光速墮落
  5. 1.3 為什么Tay會(huì)失控
  6. 1.4 這是一個(gè)棘手的問(wèn)題
  7. 第2章 OWASP大語(yǔ)言模型應(yīng)用十大安全風(fēng)險(xiǎn)
  8. 2.1 關(guān)于OWASP
  9. 2.2 大語(yǔ)言模型應(yīng)用十大風(fēng)險(xiǎn)項(xiàng)目
  10. 2.2.1 項(xiàng)目執(zhí)行
  11. 2.2.2 反響
  12. 2.2.3 成功的關(guān)鍵
  13. 2.3 本書與十大風(fēng)險(xiǎn)榜單
  14. 第3章 架構(gòu)與信任邊界
  15. 3.1 人工智能、神經(jīng)網(wǎng)絡(luò)和大語(yǔ)言模型：三者有何區(qū)別
  16. 3.2 Transformer革命：起源、影響及其與LLM的關(guān)系
  17. 3.2.1 Transformer的起源
  18. 3.2.2 Transformer架構(gòu)對(duì)AI的影響
  19. 3.3 基于大語(yǔ)言模型的應(yīng)用類型
  20. 3.4 大語(yǔ)言模型應(yīng)用架構(gòu)
  21. 3.4.1 信任邊界
  22. 3.4.2 模型
  23. 3.4.3 用戶交互
  24. 3.4.4 訓(xùn)練數(shù)據(jù)
  25. 3.4.5 訪問(wèn)實(shí)時(shí)外部數(shù)據(jù)源
  26. 3.4.6 訪問(wèn)內(nèi)部服務(wù)
  27. 3.5 結(jié)論
  28. 第4章 提示詞注入
  29. 4.1 提示詞注入攻擊案例
  30. 4.1.1 強(qiáng)勢(shì)誘導(dǎo)
  31. 4.1.2 反向心理學(xué)
  32. 4.1.3 誤導(dǎo)
  33. 4.1.4 通用和自動(dòng)化對(duì)抗性提示
  34. 4.2 提示詞注入的影響
  35. 4.3 直接與間接提示詞注入
  36. 4.3.1 直接提示詞注入
  37. 4.3.2 間接提示詞注入
  38. 4.3.3 關(guān)鍵差異
  39. 4.4 緩解提示詞注入風(fēng)險(xiǎn)
  40. 4.4.1 速率限制
  41. 4.4.2 基于規(guī)則的輸入過(guò)濾
  42. 4.4.3 使用專用大語(yǔ)言模型進(jìn)行過(guò)濾
  43. 4.4.4 添加提示結(jié)構(gòu)
  44. 4.4.5 對(duì)抗性訓(xùn)練
  45. 4.4.6 悲觀信任邊界定義
  46. 4.5 結(jié)論
  47. 第5章 你的大語(yǔ)言模型是否知道得太多了
  48. 5.1 現(xiàn)實(shí)世界中的案例
  49. 5.1.1 Lee Luda案例
  50. 5.1.2 GitHub Copilot和OpenAI的Codex
  51. 5.2 知識(shí)獲取方法
  52. 5.3 模型訓(xùn)練
  53. 5.3.1 基礎(chǔ)模型訓(xùn)練
  54. 5.3.2 基礎(chǔ)模型的安全考慮
  55. 5.3.3 模型微調(diào)
  56. 5.3.4 訓(xùn)練風(fēng)險(xiǎn)
  57. 5.4 檢索增強(qiáng)生成
  58. 5.4.1 直接網(wǎng)絡(luò)訪問(wèn)
  59. 5.4.2 訪問(wèn)數(shù)據(jù)庫(kù)
  60. 5.5 從用戶交互中學(xué)習(xí)
  61. 5.6 結(jié)論
  62. 第6章 語(yǔ)言模型會(huì)做電子羊的夢(mèng)嗎
  63. 6.1 為什么大語(yǔ)言模型會(huì)產(chǎn)生幻覺(jué)
  64. 6.2 幻覺(jué)的類型
  65. 6.3 實(shí)例分析
  66. 6.3.1 虛構(gòu)的法律先例
  67. 6.3.2 航空公司聊天機(jī)器人訴訟案
  68. 6.3.3 無(wú)意的人格詆毀
  69. 6.3.4 開(kāi)源包幻覺(jué)現(xiàn)象
  70. 6.4 誰(shuí)該負(fù)責(zé)
  71. 6.5 緩解最佳實(shí)踐
  72. 6.5.1 擴(kuò)展領(lǐng)域特定知識(shí)
  73. 6.5.2 思維鏈推理：提高準(zhǔn)確性的新路徑
  74. 6.5.3 反饋循環(huán)：用戶輸入在降低風(fēng)險(xiǎn)中的作用
  75. 6.5.4 明確傳達(dá)預(yù)期用途和局限性
  76. 6.5.5 用戶教育：以知識(shí)賦能用戶
  77. 6.6 結(jié)論
  78. 第7章 不要相信任何人
  79. 7.1 零信任解碼
  80. 7.2 為什么要如此偏執(zhí)
  81. 7.3 為大模型實(shí)施零信任架構(gòu)
  82. 7.3.1 警惕過(guò)度授權(quán)
  83. 7.3.2 確保輸出處理的安全性
  84. 7.4 構(gòu)建輸出過(guò)濾器
  85. 7.4.1 使用正則表達(dá)式查找個(gè)人信息
  86. 7.4.2 評(píng)估毒性
  87. 7.4.3 將過(guò)濾器鏈接到大模型
  88. 7.4.4 安全轉(zhuǎn)義
  89. 7.5 結(jié)論
  90. 第8章 保護(hù)好你的錢包
  91. 8.1 拒絕服務(wù)攻擊
  92. 8.1.1 基于流量的攻擊
  93. 8.1.2 協(xié)議攻擊
  94. 8.1.3 應(yīng)用層攻擊
  95. 8.1.4 史詩(shī)級(jí)拒絕服務(wù)攻擊：Dyn事件
  96. 8.2 針對(duì)大模型的模型拒絕服務(wù)攻擊
  97. 8.2.1 稀缺資源攻擊
  98. 8.2.2 上下文窗口耗盡
  99. 8.2.3 不可預(yù)測(cè)的用戶輸入
  100. 8.3 拒絕錢包攻擊
  101. 8.4 模型克隆
  102. 8.5 緩解策略
  103. 8.5.1 特定領(lǐng)域防護(hù)
  104. 8.5.2 輸入驗(yàn)證和清理
  105. 8.5.3 嚴(yán)格的速率限制
  106. 8.5.4 資源使用上限
  107. 8.5.5 監(jiān)控和告警
  108. 8.5.6 財(cái)務(wù)閾值和告警
  109. 8.6 結(jié)論
  110. 第9章 尋找最薄弱環(huán)節(jié)
  111. 9.1 供應(yīng)鏈基礎(chǔ)
  112. 9.1.1 軟件供應(yīng)鏈安全
  113. 9.1.2 Equifax數(shù)據(jù)泄露事件
  114. 9.1.3 SolarWinds黑客攻擊
  115. 9.1.4 Log4Shell漏洞
  116. 9.2 理解大語(yǔ)言模型供應(yīng)鏈
  117. 9.2.1 開(kāi)源模型風(fēng)險(xiǎn)
  118. 9.2.2 訓(xùn)練數(shù)據(jù)污染
  119. 9.2.3 意外不安全的訓(xùn)練數(shù)據(jù)
  120. 9.2.4 不安全的插件
  121. 9.3 建立供應(yīng)鏈追蹤工件
  122. 9.3.1 軟件物料清單的重要性
  123. 9.3.2 模型卡片
  124. 9.3.3 模型卡片與軟件物料清單的比較
  125. 9.3.4 CycloneDX：SBOM標(biāo)準(zhǔn)
  126. 9.3.5 機(jī)器學(xué)習(xí)物料清單的興起
  127. 9.3.6 構(gòu)建機(jī)器學(xué)習(xí)物料清單示例
  128. 9.4 大語(yǔ)言模型供應(yīng)鏈安全的未來(lái)
  129. 9.4.1 數(shù)字簽名和水印技術(shù)
  130. 9.4.2 漏洞分類和數(shù)據(jù)庫(kù)
  131. 9.5 結(jié)論
  132. 第10章 從未來(lái)的歷史中學(xué)習(xí)
  133. 10.1 回顧OWASP大語(yǔ)言模型應(yīng)用程序十大安全風(fēng)險(xiǎn)
  134. 10.2 案例研究
  135. 10.2.1《獨(dú)立日》：一場(chǎng)備受矚目的安全災(zāi)難
  136. 10.2.2《2001太空漫游》中的安全缺陷
  137. 10.3 結(jié)論
  138. 第11章 信任流程
  139. 11.1 DevSecOps的演進(jìn)歷程
  140. 11.1.1 機(jī)器學(xué)習(xí)運(yùn)維
  141. 11.1.2 大模型運(yùn)維
  142. 11.2 將安全性構(gòu)建到大模型運(yùn)維中
  143. 11.3 大模型開(kāi)發(fā)過(guò)程中的安全性
  144. 11.3.1 保護(hù)你的持續(xù)集成和持續(xù)部署
  145. 11.3.2 大語(yǔ)言模型專用安全測(cè)試工具
  146. 11.3.3 管理你的供應(yīng)鏈
  147. 11.4 運(yùn)用防護(hù)機(jī)制保護(hù)應(yīng)用程序
  148. 11.4.1 防護(hù)機(jī)制在大模型安全策略中的作用
  149. 11.4.2 開(kāi)源與商業(yè)防護(hù)方案比較
  150. 11.4.3 自定義防護(hù)機(jī)制與成熟防護(hù)機(jī)制的融合應(yīng)用
  151. 11.5 應(yīng)用監(jiān)控
  152. 11.5.1 記錄每個(gè)提示和響應(yīng)
  153. 11.5.2 日志和事件集中管理
  154. 11.5.3 用戶與實(shí)體行為分析
  155. 11.6 建立你的AI紅隊(duì)
  156. 11.6.1 AI紅隊(duì)測(cè)試的優(yōu)勢(shì)
  157. 11.6.2 紅隊(duì)與滲透測(cè)試
  158. 11.6.3 工具和方法
  159. 11.7 持續(xù)改進(jìn)
  160. 11.7.1 建立和調(diào)整防護(hù)機(jī)制
  161. 11.7.2 管理數(shù)據(jù)訪問(wèn)和質(zhì)量
  162. 11.7.3 利用人類反饋強(qiáng)化學(xué)習(xí)實(shí)現(xiàn)對(duì)齊和安全
  163. 11.8 結(jié)論
  164. 第12章 負(fù)責(zé)任的人工智能安全實(shí)踐框架
  165. 12.1 力量
  166. 12.1.1 圖形處理器
  167. 12.1.2 云計(jì)算
  168. 12.1.3 開(kāi)源
  169. 12.1.4 多模態(tài)
  170. 12.1.5 自主智能體
  171. 12.2 責(zé)任
  172. 12.2.1 RAISE框架
  173. 12.2.2 RAISE檢查清單
  174. 12.3 結(jié)論
書名：大語(yǔ)言模型安全：構(gòu)建安全的AI應(yīng)用
作者：Steve Wilson 著
譯者：郭笑鵬, 侯振偉, 鐘季龍, 徐麗霞 譯
國(guó)內(nèi)出版社：機(jī)械工業(yè)出版社
出版時(shí)間：2025年09月
頁(yè)數(shù)：189
書號(hào)：978-7-111-78883-6
原版書書名：The Developer's Playbook for Large Language Model Security
原版書出版商：O'Reilly Media
Steve Wilson
 
Steve Wilson是Exabeam公司的首席產(chǎn)品官，也是人工智能和網(wǎng)絡(luò)安全領(lǐng)域公認(rèn)的領(lǐng)軍人物。他在Citrix、Oracle和Sun Microsystems等大型科技公司擁有超過(guò)25年的軟件平臺(tái)搭建經(jīng)驗(yàn)。Steve還是Java Platform Performance: Strategies and Tactics一書的作者。
 
 
本書封面上的動(dòng)物是駝鹿（學(xué)名：Alces americanus）。駝鹿以其龐大的體型和獨(dú)特的鹿角而聞名，主要棲息于美國(guó)北部（包括阿拉斯加）以及加拿大全境。
駝鹿是鹿科動(dòng)物中體型最為碩大的物種，其身高可超過(guò)18米，體重可達(dá)450公斤以上。雌雄駝鹿主要通過(guò)雄性的鹿角加以區(qū)分，其鹿角展開(kāi)可達(dá)1.8米寬。雄性駝鹿在春季開(kāi)始生長(zhǎng)鹿角，為秋季的繁殖期做準(zhǔn)備，其間會(huì)用鹿角與其他雄性爭(zhēng)奪交配權(quán)。繁殖期結(jié)束后鹿角會(huì)脫落，來(lái)年春季重新生長(zhǎng)。
駝鹿體型魁梧，毛皮具有極佳的保暖性，最適合在寒冷氣候中生存，尤其偏愛(ài)有水域的森林地帶。它們以樹(shù)葉、樹(shù)枝為主要食物。雖然駝鹿并不被視為瀕危物種，但它們正面臨多重威脅，包括熱應(yīng)激、疾病以及蜱蟲侵?jǐn)_的增加--這些問(wèn)題都與氣候變暖有關(guān)。
購(gòu)買選項(xiàng)
定價(jià)：79.00元
書號(hào)：978-7-111-78883-6
出版社：機(jī)械工業(yè)出版社