【灣區新聞】Santa Clara市議會作決策時應用人工智能引發爭議

【KTSF】

AI人工智慧越來越普及，而ChatGPT等AI工具，是否能用來幫忙作重要決策，日前也在南灣Santa Clara市議會引發爭議。

根據本地五號電視台的報導，科技經驗豐富，已經擔任兩屆南灣Santa Clara市議員的Kevin Park，之前在矽谷擔任科學家和工程師三十年，包括曾在三家和人工智慧相關的公司服務。

Park對部分市府同事利用如ChatGPT等生成式AI，幫忙作決策的趨勢感到擔憂。

Park表示，人們必須了解，ChatGPT並非試著回答你的問題，而是試著給你最有可能的答覆。

在最近一次公開會議上，南灣Santa Clara市議會要決定是否該通過可讓一家承包商在Levi’s球場經營非NFL職業美足聯盟活動，市長Lisa Gillmor想要比較其他承包商，以及其他城市的合約，不過當時並沒有其他人當場就能快速提供相關資訊，因此市長決定用手提電腦問ChatGPT，表示看到全美很多其他提供類似服務的公司。

幾分鐘後，市長加入其他兩位市議員投下不贊成票，市長暫時沒有回覆，本地五號電視台對此的詢問，不過這次會議，可能是官方史上AI被用在市議會決策的首例之一，也讓Santa Clara Markkula應用倫理學中心的學者擔心還在發展中
不完美的科技，加上對AI了解不足，不明白AI缺陷的大眾，可能會導致公共危險。

而ChatGPT是全球最受歡迎的生成式AI應用程式之一，如果你告訴這個聊天機器人剛養了一隻小狗，ChatGPT可以生成很好的聊天內容，包括怎麼訓練小狗，還有取名字的建議等。

許多人用ChatGPT解答難題，精簡大量資訊，或是生成圖片等，不過學者重申，生成式AI並不完美，就像用戶常看到的AI錯誤hallucinations成式AI失誤時，會自己生成答案，提供錯誤訊息。

市議員Park強調，生成式AI的訓練資料，影響之後會提供的回覆，呼籲市府領導不要用生成式AI取代其他的研究，如果讓生成式AI提供不了解的領域資訊，將無從判斷資訊的對錯。

許多地方政府機構目前仍在研究相關規範，Santa Clara市已成立工作小組，希望能在今年稍後制定應用人工智慧的指引，負責任地使用科技。