人工智能公司Anthropic开始推出Claude Code的新安全功能,该功能可以扫描用户的软件代码库以查找漏洞并建议补丁。
这项名为Claude Code Security的功能目前仅向企业版和团队版客户提供有限的研究预览。
"它扫描代码库以查找安全漏洞,并建议有针对性的软件补丁供人工审查,使团队能够发现和修复传统方法经常遗漏的安全问题,"该公司在周五的公告中表示。
Anthropic表示,该功能旨在利用AI作为工具来帮助发现和解决漏洞,以对抗威胁行为者将相同工具武器化来自动化漏洞发现的攻击。
随着智能体在检测那些原本被人类忽视的安全漏洞方面能力日益增强,这家科技新秀表示,相同的能力可能被对手用来比以前更快地发现可利用的弱点。它补充说,Claude Code Security旨在通过为防御者提供优势和提高安全基准来对抗这种AI驱动的攻击。
Anthropic声称,Claude Code Security超越了静态分析和已知模式扫描,能够像人类安全研究员一样推理代码库,理解各种组件之间的交互,跟踪整个应用程序中的数据流,并标记可能被基于规则的工具遗漏的漏洞。
然后,每个识别出的漏洞都会经过所谓的"多阶段验证过程",结果会被重新分析以过滤掉误报。漏洞还会被分配严重性评级,以帮助团队专注于最重要的问题。
最终结果会在Claude Code Security仪表板中显示给分析师,团队可以在此处审查代码和建议的补丁并批准它们。Anthropic还强调,系统的决策由人机协作方法驱动。
"由于这些问题往往涉及仅从源代码难以评估的细微差别,Claude还为每个发现提供置信度评级,"Anthropic说。"没有人工批准不会应用任何内容:Claude Code Security识别问题并建议解决方案,但开发人员始终拥有决策权。"
Q&A
Q1:Claude Code Security是什么功能?
A:Claude Code Security是Anthropic为Claude Code推出的新安全功能,能够扫描软件代码库查找安全漏洞并建议补丁。它目前仅向企业版和团队版客户提供有限的研究预览。
Q2:Claude Code Security与传统安全扫描工具有什么区别?
A:Claude Code Security超越了静态分析和已知模式扫描,能够像人类安全研究员一样推理代码库,理解各种组件之间的交互,跟踪数据流,并标记可能被基于规则的工具遗漏的漏洞。
Q3:Claude Code Security如何确保准确性和安全性?
A:系统采用多阶段验证过程来过滤误报,为每个发现提供置信度评级,并采用人机协作方法。所有补丁都需要人工审查和批准才能应用,开发人员始终拥有最终决策权。
好文章,需要你的鼓励
研究人员意外发现,标准MOSFET晶体管可同时模拟神经元和突触行为,形成"神经突触随机存取存储器"(NSRAM)。该技术仅需一至两个晶体管即可实现传统需数十乃至数百个元件才能完成的神经信号处理,且与现有硅基制造工艺完全兼容,良率达100%。未来有望应用于边缘AI及高能效神经形态芯片,长远或可挑战GPU地位。
论文对比了AI通过图形界面和命令行两种方式完成桌面任务的差异,发现两者各有瓶颈:GUI受限于视觉交互可靠性,命令行受限于技能库覆盖率。
本文提出一种评估人工智能风险的新方法,借鉴生态学与演化论视角,从理论生态模型中推导出三项风险指标,涵盖种群模型与生态系统模型。研究旨在为AI治理策略提供量化工具,并对分析局限性及政策改进方向进行了深入探讨,为构建更科学的AI风险评估体系提供参考框架。
复旦大学团队提出ICWM框架,让机器人在任务前通过随机探测动作自主感知当前视角和物理配置,无需重新训练即可适应新摄像头角度,真实机器人测试成功率最高提升175%。