啟發日記D314『向量』

親愛的，你今天過得好嗎？ 今天想和你分享的啟發關鍵詞是：「向量」。 如果你玩過《三國志》之類的策略遊戲，應該對人物的「能力值」不陌生。 武力、智力、統率、政治、魅力…… 每一位武將，都可以用一組數字來描述。 如果寫成： ［武力、智力、統率、政治、魅力］ 其實就有點像數學裡的「向量」。 只有武力，所有人只能排在一條線上； 加入智力，就成為一個平面； 再加入統率，就是三維空間。 如果增加到幾百、幾千個維度呢？ 我們的腦袋已經很難把它畫成圖， 但電腦仍然可以計算這些數字之間的關係。 ⸻ 這也是理解大型語言模型的一個入口。 當我們輸入一句話，文字會先被拆成token，再轉換成一組組數值表示。 可以粗略想像： 模型必須先把人類的文字，轉換成它能夠計算的數字世界。 但沒有人事先告訴模型： 「蘋果的甜度0.8、水果屬性0.9。」 模型主要透過大量文本與預測下一個token等訓練目標，不斷修正自己的參數。 它可能一次又一次看到： 「我把蘋果切開來吃。」 「樹上結滿了蘋果。」 「香蕉和蘋果都是水果。」 每一次預測、發現誤差、再調整一點點。 經過大量訓練後， 「蘋果」常與水果、吃、甜、樹等詞出現在相關語境中的規律， 會以分散、複雜且難以直接翻譯成人話的方式， 被調整進模型的參數與內部表示裡。 它不是在資料庫裡存下一張 「蘋果＝水果、甜、長在樹上」的標籤卡； 而是在大量語句的關係中， 學到哪些詞、哪些句子、哪些情境，常常彼此相關。 這有點像畫一張巨大的地圖。 「貓」和「狗」在許多語境中的關係，大概率上會比「貓」和「所得稅」接近； 「法院」、「律師」、「判決」，也會形成另一組緊密的語意關係。 ⸻ 更有趣的是上下文。 「蘋果很好吃。」 和「蘋果發表了新手機。」 同樣是「蘋果」，意思卻完全不同。 模型會利用周圍文字提供的線索， 經過多層運算， 為同一個 token 形成隨上下文改變的內部表示。 所以一個詞的意義，不只來自它自己，也來自它與周圍世界的關係。 多語言也是如此。 中文的「蘋果」、英文的 apple、日文的「りんご」， 外表完全不同， 卻常常指向相近的事物，也出現在相似的語意關係裡。 經過大量而多樣的多語言資料訓練， 某些模型可能逐漸形成跨語言的對應。 名字不同， 背後指向的世界卻可能相通。 當然，這種對應並不永遠完美； 語言背後的文化、語境與細微差異， 也不會因為被轉成向量，就完全消失。 ⸻ 想想看，其實我們認識一個人或一件事，好像也在進行某種相似的過程。 只是遊戲和人生有一個很大的差別。 玩《三國志》時，我們像上帝一樣，打開人物資料，就知道每個人的武力、智力、魅力是多少。 可是現實沒有這張表格。 坐在我們旁邊的人，「善良」是多少？「可靠」是多少？「勇氣」是多少？ 我們不知道。 只能靠一次吃飯、一次合作、一次爭執，甚至一次患難，慢慢形成自己的判斷。 第一次見面覺得： 「這個人很冷漠。」 相處久了發現： 「原來他只是慢熟。」 真正遇到事情，又發現： 「他不太會安慰人，但需要幫忙時從來沒有缺席。」 新的資料進來，我們心裡那個人的位置，也一次一次被重新調整。 ⸻ 可是這裡也藏著一個問題。 如果模型的訓練資料有限或帶著偏差，形成的表示與判斷也可能受到影響。 人是不是也一樣？ 也許我們曾經被某一類人傷害過，從此遇到相似的人，就下意識提高戒心。 也許我們對某一群人的認識，全都來自新聞、社群或別人的轉述，卻從來沒有真正和他們相處。 所以當我們很篤定地說： 「這種人都是這樣。」 也許值得問一句： 「這真的是他的樣子，還是我的『訓練資料』讓我這樣判斷他？」 ⸻ 還有一個問題也可以想想： 我們選了哪些維度？ 如果《三國志》只計算武力、智力與統率， 一個溫柔、有同理心、善於照顧他人的人， 可能根本沒有被看見的維度。 如果我們評價一個孩子只有國文、英文、數學，他也可能看起來「不夠優秀」。 可是加入創造力、運動、同理心、好奇心、動手能力呢？ 同一個孩子，位置可能完全不同。 那個在考卷上滿是紅字的孩子，也許在球場上擁有最敏銳的空間直覺，在朋友哭泣時擁有最安靜的陪伴溫度。 我們評價自己也是如此。 如果人生只有一條軸線，很容易得到成功或失敗的答案。 但如果加入健康、家庭、自由、朋友、成長與貢獻呢？ 也許我們也會用新的眼光，看待自己與他人。 ⸻ 親愛的你呢？ 如果今天有人要把你做成一個「向量」， 你希望他用哪些維度認識你？ 我們大概都不希望別人只用學歷、收入、職位與外貌幾個數字，就決定我們是一個怎樣的人。 那麼反過來， 我們是不是也應該給別人多一些維度、多一些資料，也多一點重新調整判斷的機會？ 承認自己的資料庫有限， 不是否定自己的直覺， 而是給予彼此一次重新對齊、重新相遇的慈悲。 也許真正的理解， 來自於始終提醒自己： 也許我現在看到的， 只是有限資料下的他。 而在那些我們還沒有看見的維度裡， 每一個人，都可能比我們以為的更加遼闊。 ——企鵝不捨小書房 -- Hosting provided by SoundOn