關於我們

建立臺灣的 AI Safety 社群

隨著 AI 能力持續提升,確保系統安全並符合人類價值,成為當代迫切的挑戰。自 2023 年起,NTUAIS 匯聚研究者、學生與專業人士,一起研究並回應這些問題。

我們的動力

使命與願景

我們的使命

讓更多臺灣人認識 AI Safety、提升產業對相關議題的關注,並發掘潛力人才,支持他們到海外從事研究、將知識帶回臺灣,壯大本地社群。

我們的願景

臺灣擁有強大的硬體產業與深厚的 AI 供應鏈經驗,有機會在 AI Safety 扮演關鍵角色。我們希望深化臺灣的相關工作,也將知識與經驗投入全球合作,讓 AI 系統對所有人更加安全。

我們的做法

透過讀書會、工作坊與演講,我們建立分享知識、尋找機會與合作的空間,讓社群能產出研究、培育人才,並推進 AI Safety。

我們的價值

我們的信念

以安全為優先

AI 的進展正超越我們確保其安全的能力。我們相信,安全研究應該獲得與能力開發同等的重視與資源。

嚴謹的研究態度

我們直接閱讀原始論文、重現研究結果,並審慎檢視各項主張。要了解領域的真實進展,需要超越新聞標題,深入研究本身。

全球合作

AI Safety 是任何單一機構都無法獨力解決的全球挑戰。我們連結臺灣社群、國際研究網絡、BlueDot Impact 等組織,以及更廣泛的 Alignment 社群。

開放的學習機會

AI Safety 需要 ML 工程、哲學、政策與法律等多元觀點。我們希望無論起點與背景為何,有學習動力的人都能透過讀書會與活動參與其中。

常見問題

認識 NTUAIS

我們是誰?

我們是臺灣大學 AI Safety 社群(NTUAIS)。我們透過讀書會與各類活動,串連研究者、學生與專業人士,共同理解並降低先進 AI 系統的風險。

什麼是 AI Safety?

AI Safety 致力於確保日益強大的 AI 系統符合人類價值,並避免因 Misalignment、濫用或系統性失誤造成災難性傷害。主要研究方向包括 Mechanistic Interpretability、Alignment、Scalable Oversight 與 AI Governance。

我們在做什麼?

學期中,我們每週舉辦三個不同主題的讀書會:Fundamental Track 參考 BlueDot Impact 的課綱,介紹 AI Safety 的核心概念;Technical Paper Reading Track 透過論文閱讀與討論,深入探索 AI Safety 研究;Policy Track 則聚焦 AI Governance、政策及其社會影響。此外,我們也協助臺灣的參與者連結國際 AI Safety 社群、培訓計畫及研究機會。

誰適合加入?

只要重視 AI Safety 並願意深入學習,都歡迎加入。不必具備資訊背景;許多難題需要哲學、法律、政策與認知科學等觀點。願意閱讀有挑戰性的材料、認真思考,就是很好的起點。

如何參與?

加入 Discord 提問、認識社群夥伴,並到活動頁面報名讀書會與其他活動。也歡迎直接來參加活動,我們會提供便當!🍱

我們的團隊

認識 NTUAIS 的夥伴

認識共同打造這個社群的籌辦團隊與導師。

認識團隊 →