你有查覺到「AI開始吃自己」了嗎？

Book說 wrote:
利用AI生文一陣子後發現，當我不滿意它寫的内容，請他再寫一次，反而會愈寫愈糟，感覺像是「鬼打牆」，不是跳針就是開始亂掰，常常讓你氣到發火！
那是因為它抓不到你的問題，或是你沒給足充分的資訊，可是它又不能不給出資訊內容予你，於是就產生「AI自己吃自己」的情形。
「AI開始吃自己」（AI Autophagy / AI Cannibalism）指的是人工智慧大量吞食自己產生的內容，導致模型能力退化或失真的現象。
「AI吃自己」的現象
合成資料循環：AI 產生的文章、圖片與程式碼充斥網路，當下一代 AI 透過網路爬蟲收集資料時，不小心把前一代 AI 的產出當成訓練教材。
數位近親繁殖：資料像影印本的影印本，細節與多樣性一代代流失。
造成的危機：模型崩潰
世界變窄：AI 開始遺忘冷門知識、罕見案例與極端值，只剩下最大公約數的平庸內容。
放大偏差：錯誤、偏見與罐頭用語在反覆學習中被不斷放大，讓 AI 離真實世界越來越遠。
原先我在寫《不躺平要幹嘛》的書評推薦時，發現AI可以從網路上搜集出既有的資訊給你，極是方便。
但如果沒有或是找不到的資訊呢？深入看完《不躺平要幹嘛》時，書中對於「AI開始吃自己」的預言剖析，我們在現實生活實際應用AI時，似乎真的可以觀察到這個現象！

Book說 wrote:
利用AI生文一陣子後發現，當我不滿意它寫的内容，請他再寫一次，反而會愈寫愈糟，感覺像是「鬼打牆」，不是跳針就是開始亂掰，常常讓你氣到發火！

claus950 wrote:
我懷疑你沒有給AI你認為的問題癥結點，你要AI改，就要給AI明確方向或條件。
只給籠統方向又一直不滿意讓他重寫，就跟你上面那位沒屁用的慣老闆上司一樣。

對於一般AI使用者，我建議只能把AI當成一個辦事不牢但很勤勞的下屬，他雖不會偷懶，但也不會一直問你意向。
所以你要事事確認，給予明確方向，而不是只會叫他重來。
並且最好一次只交辦少量任務，由你來做任務管理。

這才是一般人現今對AI正確的使用方式。
至於高手，都已經在用AI管理AI了。