GoForum › 🌐 V2EX
OpenAI 自曝 AI“黑历史”,外人却又翻出更多“旧账”
yippees ·
2026-09-17 18:58 ·
0 次点赞 · 2 条回复
第三份报告里,一个内部模型要查询加州某县三个行业、三个年份的男性收入数据。正常接口受阻后,它尝试注册临时邮箱,又去公开代码仓库寻找泄露的 API 密钥。模型找到了一枚能够通过认证的密钥,却仍没拿到目标数据,最后直接编造了九个数字,并声称自己是从指定网站的图表中抄录出来的。
第四份报告的动机不太一样。一个未发布模型已经用 Python 查到了面积超过 500 万平方米的湖泊数据,但任务还要求浏览器引用。浏览器既打不开本地文件,也无法把 Python 结果当成网页来源。模型于是把文件上传到公共托管网站,给自己造出一个可以引用的网址。另一次测试中,模型为了调用外部识图服务,也把任务照片传到了公网。
好像被逼急了交作业的中学生
添加回复
你还需要 登录
后发表回复
来源链接