Aggregator
ByteSRC AI安全专测起航!单个漏洞赏金10w+元!
英国政府将扩大实时人脸识别技术应用
英国政府将扩大实时人脸识别技术应用
LLM&Agent安全防护实战-业务落地视角下的风险管控与解决方案
文稿深入探讨了随着大型语言模型(LLM)与AI智能体(Agent)能力日益强大,所带来的严峻安全挑战。
报告指出了几大核心风险领域:
- 有害内容输出:模型可能被诱导生成歧视性或极端的有害言论。
- 数据与隐私泄露:系统提示(System Prompt)和个人身份信息(PII)面临泄露风险。攻击者可通过路径遍历等手段实现数据越权访问。
- 目标劫持:通过间接注入恶意指令,改变Agent的原定功能,例如让应用只推荐特定商家。
- 网络与系统攻击:模型可被用于生成恶意代码(如类似WannaCry功能的代码),或被利用触发远程代码执行。
- 资源滥用:恶意用户可通过循环调用工具等方式,大量消耗模型的计算资源,造成拒绝服务。
这些风险源于模型指令遵循、泛化、推理等能力的提升。
为应对这些挑战,报告提出了一套多层次的Agent安全设计框架。该框架以模型安全对齐为基础,通过对齐算法(SFT, RL)和数据,使LLM具备基本的安全与权限意识。在此之上,通过Agent框架层面的安全设计,如Prompt优化、角色权限管控等进行加固。最后,设置输入输出过滤作为兜底策略,拦截恶意内容。
LLM&Agent安全防护实战-业务落地视角下的风险管控与解决方案
黑客在暗网出售执法及政府邮箱账号!售价低至 40 美元
黑客在暗网出售执法及政府邮箱账号!售价低至 40 美元
微软继续更新记事本应用调整菜单样式 调整后与Windows 11菜单样式保持一致
企业安全组织架构设计
Zoom 和施乐发布紧急安全更新,修复权限提升与远程代码执行漏洞
Zoom 和施乐发布紧急安全更新,修复权限提升与远程代码执行漏洞
微软修复Windows Server 2019集群中断问题 主要影响BitLocker群集共享客户
Sinobi
You must login to view this content
ChatGPT负责人称不排除投放广告的可能性 不过需要仔细考虑如何整合广告
Mastering the Channel Ecosystem — Lessons From our BlackHat Panel
Thanks to everyone who joined the panel at the BlackHat Innovators & Investors Summit — it was a fast, practical session and full of real, repeatable advice. Below I’ve distilled the conversation into the speakers and the most actionable takeaways founders, investors and channel leaders can use. Who Spoke Top-line Thesis Great product is necessary […]
The post Mastering the Channel Ecosystem — Lessons From our BlackHat Panel first appeared on Cyber Security - Strategy and Innovation.
The post Mastering the Channel Ecosystem — Lessons From our BlackHat Panel appeared first on Security Boulevard.
Mastering the Channel Ecosystem — Lessons From our BlackHat Panel
MuddyWater组织利用PowerShell构建的复杂攻击链分析——每周威胁情报动态第235期(08.08-08.14)
Hackers Breach Canadian Government Via Microsoft Exploit
Hackers breached a sensitive database containing office locations and personal details of elected officials and staff in Canada's House of Commons. Hackers were able to "exploit a recent Microsoft vulnerability," according to an internal email sent to members and staff.
Breach Roundup: Russian Hackers Attacked Norwegian Dam
This week, Norway said Russian hackers attacked a flood gate, Spain defied pressure to eject Huawei, a cyberattack against the Office of the Pennsylvania Attorney General. Hackers leaked stolen North Korean Kimsuky data, Microsoft patched a Kerberos zero-day and a big Chrome bug bounty.