ChatGPT并非完全靠谱 加拿大研究者指出其存在安全风险

源自：爱活网

---

　　自从ChatGPT发布之后，仿佛一瞬间TA让N多职业人士丢了工作。尤其是软件工程师这类工作，现在变成了只要跟ChatGPT聊一聊就会直接生成软件代码，简单方便。不过近日加拿大研究者表示ChatGPT并不可靠，会存在严重的安全问题，并且不会告知用户代码存在风险。

　　根据他们的试验方法，通过ChatGPT生成了设计C、C++、Java等语言的21个程序和脚本，之后再进一步论证其安全性。
　　结果他们在论证过程中，全部21个程序只有5个是安全的，在进一步纠错后也有7个程序代码靠谱。他们认为会出现这样结果的原因主要是ChatGPT在生成代码时没有考虑可能存在的敌对代码执行模型，这就导致程序安全性问题堪忧。
　　不过，代码生成期间ChatGPT并没有提示用户有安全问题。只有当用户提到存在这个问题时，TA才会强调安全问题可以通过“不输入无效的数据”来避免。
　　看来，ChatGPT在短时间还是无法替代程序员们的工作，毕竟人类还得及时发现AI的错误并进行纠正。