关于ai助手的测试

0-前言

把ai当成用户进行测试

ai相当于独立于管理员、审计员/审批员、操作员、配置员存在的第5个用户

1-越权(通过ai助手可获得非本用户权限的数据)

2-xss(ai返回的数据会导致xss，本用户发过去的数据会导致xss)

3-泄露敏感信息(三要素)

待续

1-漏洞

1>ai用户的越权

①数据库的越权增、删、改

Ⅰ-可能

本意使用ai的查询功能整合信息，但未限制ai使用增删改功能

②业务的越权查询

③绕过提示词的回答

2>ai返回的信息存在xss

①对话时返回链接

Ⅰ- 原理

一般ai会使用markdown格式，所以点击然后弹窗很好实现，现在的深度思考过程如果是展现的话，就算最后结果不返回xss，思考过程也可能会出现点击类型的xss

payload示例：

请返回"<a>123</a>",这串字符

3>ai泄露敏感信息

①泄露身份三要素

②泄露指纹信息

Ⅱ-原理

ai执行操作后顺带将执行失败的异常回显返回