CloudMile 萬里雲近期推出全新的 YouTube 節目【大咖來熱線・科技面對面】,邀請來自產官學、科技產業或數位轉型路上的重量級來賓輕鬆對談,探討 AI、資安、大數據與多雲等轉型應用,並分享各自領域的創新發展及應用。
近期 AI 應用已成為各企業不可忽視的趨勢,從架構優化、機器學習到數據整合與分析,各產業皆持續導入並落地 AI 應用,期望將企業數據轉化為龐大的數據價值。第一集節目首先邀請到台灣大哥大資訊長蔡祈岩 (Rock Tsai)與 CloudMile 萬里雲技術副總陳曉煒 (Michael Chen) 一起來談談 AI 應用趨勢、對 AI 的看法與期待。
對談內容摘錄:
1. AI 快速崛起,您目前對於 AI 的看法與期待?
Rock Tsai:IT 領域每二十年就有一個 Mega wave,過去 2000 - 2020 年的主旋律是行動裝置,再往前二十年 (1980 - 2000),是個人電腦的時代,而再更早的 1960 - 1980 年代則是企業商用電腦的時代。我認為 AI 將是 2020 - 2040 這二十年間的唯一主旋律,也就是所謂的 Mega Wave。現在大家覺得 AI 很熱鬧,但我認為它只是剛開始,現今 AI 議題非常多也非常重要,企業應該要積極擁抱 AI,包括怎麼運用在員工日常、數位平台建置,以及資安與智慧財產權等面向。
2. 想請教 Michael,您怎麼看 AI 趨勢?CloudMile 如何活化 AI 創新應用?
Michael Chen:AI 我想分享的重點有兩個,一個是民主化,一個是資訊安全。現在透過 API 的方式,可以讓企業很快地實現盈利增長或是將降本增效的目標,主要體現在內容生成、企業內部知識管理與搜索,以及聊天機器人等應用。企業在導入這些應用時,需要特別重視資安方面的議題,像是如何有效控制 AI 幻覺,以及資料訪問權限等,而許多第三方機構都有提供包括 NIST、OWASP 等資安風險框架,都可以供企業參考。
【名詞小辭典:AI 幻覺】
AI 幻覺(原文為 hallucination)指的是 AI 模型在進行內容生成時,回答看似真實、連貫,實則提供悖離事實、誤導性的結果。這類錯誤可能由許多因素造成,包括訓練資料不足、模型的假設有誤,或是用來訓練模型的資料存在偏誤。
訓練資料的缺陷,只是 AI 出現幻覺的其中一種原因,另一個可能的原因是缺乏適當的依據。AI 模型可能難以準確理解真實世界的知識、物理性質或事實資訊。當模型沒有這類資料做為基準,便可能會輸出看似合理,但實際上違反事實、無關或毫無意義的內容,甚至可能會捏造連結,連往不存在的網頁。
3. 現今 AI 應用十分多元,您認為企業該如何正確導入 AI 應用?
Rock Tsai:我認為企業要積極擁抱 AI,並且最大程度地去善用 AI。首先,企業要先有一個策略性框架。這邊跟大家分享企業運用 AI 的五個維度。第一個維度是怎麼運用 AI 來「提高員工生產力」;第二個維度是將 AI 用於「串接數位平台」;第三個維度是企業「連結AI生態圈」,持續引進技術與創新合作;第四個維度是企業要「訓練AI專屬模型」;最後第五個維度則是剛剛有提到的「重視 AI 倫理」,囊括近期的議題如資安、個資、企業營業機密資料及智慧財產權等。這五個維度並不互相隸屬,但可以交錯運用,例如:在提高員工生產力時,也要思考到 AI 倫理的維度,運用五個維度訂定出企業自身的 AI 戰略也會比較完整。
4. CloudMile 萬里雲如何協助企業評估 AI 導入注意事項?企業又該如何有效做 AI 策略規劃?
Michael Chen:說到策略,我們就要聊到 CloudMile 萬里雲集團的技術顧問公司蔚藍雲 Electrum Cloud,蔚藍雲是從第三方、非某特定原廠的角度來提供企業全方位 AI 導入戰略。響應剛才 Rock 的分享,首先我們會建議企業導入 AI 前先「釐清自身的商業目標」,接著是「評估企業目前的現況」,再來才是針對目標與現狀「開發可行的應用」,尤其現在 AI 應用非常多元,如何選擇符合企業營運目標的應用是需要商討的;接下來則是從眾多 AI 模型中,選擇「符合自身需求的 AI 模型」。值得注意的是,不論我們再怎麼強調 AI 應用,高質量的 AI 是源自於高質量的數據,而高質量的數據則需要經過前期的數據清洗與治理。對此,CloudMile 萬里雲能協助企業依據國際化標準如 CDMC(Cloud Data Management Capability)、DAMA 等先做好高質量的數據治理,才有機會導入高質量的 AI 應用。
5. AI 導入企業應用已經是現在進行式,台灣大哥大在 AI 領域,有哪些實際應用案例可以跟我們分享呢?
Rock Tsai:台灣大哥大其實早在幾年前就已經開始導入 AI,有幾個具體的案例可以分享。例如我們在 2023 年利用 AI 來檢視內部數位平台,每個月大約節省將近 80 個人力,大幅提升作業效率;另外在客服團隊方面,台灣大哥大有上千位客服人員,每打一通電話都要紀錄 Call memo 客服內容,而我們協助客服人員運用 AI 來摘要對話紀錄,節省 30% 客服人力;另外我們的 IT 團隊也利用生成式 AI 來進行程式開發與設計,使人均生產力提高 2-3 倍,以上都是台灣大哥大在 AI 技術的具體應用。
6. CloudMile 至今服務超過千家企業,且橫跨 10 多個產業。在 AI 領域,CloudMile 有什麼實際應用案例可以分享?
Michael Chen:經驗是無法壓縮的,需要經過長期的積累,而我們在 ChatGPT 2.0 的時候就開始著手一些生成式 AI 的應用。剛才有提到,高質量的 AI 來自於高質量的數據,在數據方面,我們協助某間零售業者做了將近 3,000 多張表的數據清理、導入與分析,也協助某金融業者進行整體上雲數據規劃與雲端數據治理;在 AI 方面,我們協助媒體業者進行內容生成應用,以客製化口吻來撰寫文案,並且能一鍵改寫原有的新聞內容,最後則是運用生成式 AI 生成吸睛文案,加速文字工作者整體的內容產出效率。另一項熱門 AI 應用則是企業內部知識管理,我們能協助企業解決資料訪問權限設定等挑戰,並進行模型 fine tune 來客製化 AI 服務開發;最後是聊天機器人,我們能協助企業將資料餵給大模型,讓模型能基於大數據產生符合企業需求的對話內容,並結合 CloudMile 旗下 Martech 平台 MileLens 的社群輿情資料輔助,來應證結果的可信度。
7. 台灣大哥大與 CloudMile 萬里雲如何在技術上強強聯手,發展更多創新應用?
Rock Tsai:CloudMile 萬里雲是 Cloud 與 AI 的專家,而台灣大哥大也有很強大的開發能量,工程研發團隊大約有 800 人,還有在電信領域累積的豐富經驗。如同 Michael 前面提到,許多 AI 現有模型不易運用,期待未來 CloudMile 與台灣大哥大的合作,能將 AI 技術實際帶到客戶服務場域,提供包括數據清洗、內部流程規劃、整合現有 ERP 系統等一站式解決方案,節省企業所需的研發能量,並且協助企業最大程度地利用 AI 解決方案降本增效。
歡迎聯繫 CloudMile 萬里雲,由專家為您諮詢 AI 應用
CloudMile 成立於 2017 年,為亞洲領先的人工智慧與雲端服務供應商。團隊專注發展人工智慧技術,以實踐 AI 成為企業成長動能為己任。CloudMile 萬里雲現提供四大生成式應用場景,包括企業知識管理平台、內容生成、推薦機器人及生成式 AI 工作坊,在技術服務架構方面則是能提供 Prompt 最佳化、模型 Fine-Tuning 及模型客製化訓練等。歡迎聯繫 CloudMile 萬里雲,由專家為您諮詢 AI 應用。