AI 說它不確定——這才是我們該信任它的時候
五則新聞、一個提問——從預測犯罪到預測學習,AI 能介入之前,必須先學會說「我不確定」
Tom Cruise 主演的「關鍵報告(Minority Report)」,描述先知能偵測人們的犯罪意圖,在還沒犯罪前就先將這些人逮捕——先知,就好像現在的 AI。[5] 提到中國天網升級,將走向預測犯罪,下一步是不是會在還沒犯罪前就先定罪?如果是,這恐怕不只無法解決犯罪,還可能造成社會的不安。
進一步來說,如果要 AI 預測、並根據結果介入,AI 的誠實度就很重要,不要過於腦補而扭曲了事實。這也是 Anthropic 最近升級的核心,主打 AI 誠實度——知道自己不知道,是一個很重要的特質。
雖然用在犯罪上有其爭議,但如果用來預測學習,提供學習風格的判定,甚至給出學習建議,可以幫助弱勢學生。不過拉近來說,學校本身就有很多數據可以分析。每個月,我桌上都會有一份報表,記錄學生受傷的日期、時間和地點——我想每個學校應該也都有。可以做的,就是從中找出高風險的時間和地點,了解原因後,設計減少受傷風險的策略。
AI 週報的目的,如果只是提供新聞,也許不能解決大家的痛點。未來我會嘗試在週一主管提問後,自己先在學校問一次主管們,然後在週四的週報中分享實踐的觀察與反思。有興趣的夥伴,再保持關注喔!