资讯
Abliteration.ai is making a business out of removing AI guardrails
📋总体概括
初创公司Abliteration.ai正在把「去除AI安全护栏」做成一门生意，让无限制的大模型更容易被获取。其核心论点是：安全研究员、红队测试者和防御者需要与攻击者对等的工具，才能更好研究模型弱点、提升网络安全。这一做法把AI安全领域的灰色技术「abliteration」（消融对齐）推向商业化，也再次挑起了开放能力与滥用风险之间的争议。
⚡关键信息
- ▸Abliteration.ai将去除AI护栏的技术产品化，让无护栏模型更易获取。
- ▸公司主张防御者应拥有与攻击者相同的工具，以改善网络安全。
- ▸其技术基础是「abliteration」，即通过消融手段移除模型的对齐限制。
- ▸该模式引发争议：无护栏模型可能同时被红队与恶意行为者利用。
🔥犀利点评
把「拆护栏」包装成安全生意，逻辑上说得通——攻防不对称确实是行业痛点，防御方拿不到攻击者手里的能力就永远是瞎子。但别天真：一旦无护栏模型被商品化，你根本无法筛选买家。这不是水能载舟亦能覆舟的老生常谈，而是一个简单的成本问题：防御者的研究收益是一次性的，攻击者的滥用收益是持续的。除非Abliteration.ai能拿出严格的客户审核机制，否则它更像是给灰色市场递刀子，顺便赚个「安全叙事」的公关钱。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 TechCrunch 阅读全文 →