#AISecurity mapping
看了好多ai安全的文章和mapping,personally觉得可以把它很通俗的分成下面三个level:
level1: AI is the bad guy 保护模型原生安全
这一层主要关注两个方向:
- 大模型与生俱来的认知误差和不良输出
- 大模型形成产品的过程中滋生的不稳定性误差
比较有趣的可以关注product testing的new gen startups
level2: Human is the bad guy 保护模型不受坏人攻击
这一层主要关注prompt injection、data poisoning之类的问题,在各攻击面形成保护,可以看到AI firewall等系列安全公司
level3: AI+Human is the bad guy 保护现实世界不受AI攻击
这一层主要关注fake news/deepfake/copyright之类的问题,当然到后期会关注AI beyond control,所以会看到系列做detection和art work watermark的公司
#AI工作流 #创投好文推荐