首頁 > 技術(shù) > 正文

ChatGPT取代程序員?生成的代碼大部分不安全

2023-04-23 18:41:33來源:中關(guān)村在線  


(相關(guān)資料圖)

近日,加拿大魁北克大學(xué)的四位研究人員發(fā)現(xiàn),基于 GPT-3.5 接口的聊天機(jī)器人 ChatGPT 在生成代碼時存在嚴(yán)重的安全問題。研究人員讓 ChatGPT 生成了21個程序和腳本,結(jié)果顯示只有5個是安全的。

【全網(wǎng)首發(fā)】人人都能玩賺ChatGPT:Chat GPT 10億打工人被革命

[經(jīng)銷商]京東商城

[產(chǎn)品售價]

進(jìn)入購買

部分問題是由于它沒有考慮敵對的代碼執(zhí)行模型,但在后續(xù)被要求改進(jìn)問題時,它才提供了有用的指導(dǎo)。研究人員認(rèn)為,ChatGPT 的這種行為并不理想,因?yàn)橛脩粜枰獙μ囟ǖ穆┒春途幋a技術(shù)有一定了解。此外,ChatGPT 內(nèi)部存在道德上的不一致性,它會拒絕創(chuàng)建攻擊代碼,但卻會創(chuàng)建有漏洞的代碼。研究人員認(rèn)為,使用 ChatGPT 生成代碼存在風(fēng)險,需要讓學(xué)生意識到,如果代碼是用這種類型的工具生成的,那么它很可能是不安全的。

標(biāo)簽:

相關(guān)閱讀

精彩推薦

相關(guān)詞

推薦閱讀