大模型技術(shù)白皮書(shū)(2023版)
- 點(diǎn)擊數:1097 發(fā)布時(shí)間:2023-10-24 10:06:30
- 分享到:
與大模型技術(shù)的突飛猛進(jìn)形成鮮明對照的是,大模型仍面臨諸多潛在的安全風(fēng)險。大模型在應用的過(guò)程中,可能會(huì )產(chǎn)生與人類(lèi)價(jià)值觀(guān)不一致的輸出,如歧視言論、辱罵、違背倫理道德的內容等,這種潛在的安全風(fēng)險普遍存在于文本、圖像、語(yǔ)音和視頻等諸多應用場(chǎng)景中,并會(huì )隨著(zhù)模型的大規模部署帶來(lái)日益嚴重的安全隱患,使得用戶(hù)無(wú)法信賴(lài)人工智能系統做出的決策。更為重要的是,大模型較為脆弱,對安全風(fēng)險的防范能力不足,容易受到指令攻擊、提示注入和后門(mén)攻擊等惡意攻擊。尤其是在政治、軍事、金融、醫療等關(guān)鍵的涉密應用領(lǐng)域,任何形式的惡意攻擊都可能給國家社會(huì )的穩定以及人民的生命財產(chǎn)安全帶來(lái)嚴重的后果。
關(guān)鍵詞:
請登錄以后訪(fǎng)問(wèn)所有功能!
登錄
注冊