AI可從飛行安全中學(xué)到什么

打開文本圖片集

在最近的一次安全測(cè)試中，一個(gè)旨在協(xié)助客戶申請(qǐng)貸款的銀行生成式AI（人工智能）聊天機(jī)器人遭到了操縱，并因此泄露了敏感金融信息。測(cè)試人員繞過了安全控制機(jī)制，提取了一份包括客戶姓名在內(nèi)的全面貸款審批清單。

這個(gè)警示性故事強(qiáng)調(diào)了一個(gè)根本問題：生成式AI可以徹底改變整個(gè)行業(yè)，但也可能在缺乏完備安全操作規(guī)程的情況下引發(fā)災(zāi)難性結(jié)果。（剩余1199字）