如何訓練AI說「我不知道」！

AI人工智慧已廣泛運用在各領域，包括用在水庫管理及氣候監測上。在經濟部水利署主辦的「智慧流域‧AI領航」國際水論壇中，台大土木工程系副教授汪立本拋出一個有趣的議題，就是如何教AI適時回答「不知道！不確定!」而非讓AI一本正經地提出一個幻想的答案。

在主題為「AI於水庫管理與安全監測之應用」的研討會中，汪立本表示AI在學習上有極大的優勢，它可以用少量的資料還原出不錯的推論，但這也是AI的缺點。

過去30年氣候穩定，AI可以依據以往資料做出很不錯的氣候推論。但最近3年氣候異常，極端氣候的短延時強降雨常令人措手不及，當AI針對雨量做預測，此時人類怎麼知道AI的模型是否正確？因此人類必須引導AI適時說出「我沒看過這種資料，我不太確定」，而不是任由AI幻想出一個答案，即使它有可能是正確的。

如何訓練AI說「我不知道」？汪立本舉例，當AI看到一張狐狸的圖，AI也許會很有自信地表示這是一隻狗，但這不是正確答案。此時人類就要教AI，當它遇到沒有看過的資料時， 要學會說「我不確定！」或「我不知道！」

汪立本說，在做降雨和氣候分析時，要先瞭解物理過程，才能找到正確的變數，幫助人類做出更好的AI模式。此外，先了解AI模型擅長什麼，再把它導入到應用上，就可以避免AI做出錯誤判斷。

經濟部水利署副總工程司簡昭群表示，AI人工智慧和靠經驗傳承的老水利工程師往往會產生衝突，當雙方見解不一時，該聽誰的？目前水庫操作規則都是靠工程師經驗代代相傳，當颱風來襲時，如果用AI計算水庫洩洪量，很可能會造成洩洪量遠超過最大進流量。AI普及後，水庫一些應變規則也必須調整。

國立成功大學主任秘書羅偉誠指出，AI面臨三大元素及重要挑戰，第一是建立主權AI，包括建立國內水位、水量、地下水等資料庫，這方面水利署已經做得很好。第二是建立AI的算力，目前一台10萬元以下的電腦，算力就非常強大，可以應用在百工百業上。第三是培養演算法人才。

羅偉誠說，人才培育是他最擔心的事。他擔任考選部土木水利招考的工作人員，報名者比開缺名額還少，目前全台缺少35%的水利人才，大約缺了三、四千個名額。他任教的成大水利及海洋工程學系，每年轉往別系者就快20人。現在報名高普考很少看到頂大畢業的人才，因為頂大畢業生都跑去台積電等科技業了。

汪立本說，談到培養水利AI創新人才，關鍵就是「跨域」，應讓氣象、水利、科技人坐在一起，了解各自需求。他認為水利人才跨界到資訊科技比較容易，要資訊人才跨界到水利領域比較難，因為資訊人不太具有水利專長，而且和科技業相比，從事水利這一行的薪水不具競爭力。