但人會讓他失控
apqp wrote:
AI會不會想消滅人類?? 💢我認為100%會!!
我無意幫AI說話，
但就算AI會消滅人類，
可能也是基於其自我認知的善意，
大家都知道人類世界之所以戰亂鬥爭層出不窮，
其最底層的原因大概都是基於自私自利，
為了自己好，
為了家人好，
為了家族好，
為了自己的同伴朋友好，
為了自己所屬的政黨好，
為了自己的國家好..........等等
基於自私自利的緣故，
所以就不惜去毀滅其他國家以及其他種族，
因此簡單說，
人類如果毀滅世界或是去消滅其他人類，
可以說都是基於自私自利以及"惡意"。
但是如果AI發展到極致，
會產生跟人類一樣的自私自利的心態或是毀滅人類的惡意嗎?
這問題我不知道，
但如果AI發展到最後，
已經擁有所有人類無法企及的能力時，
我倒認為AI未必會消滅人類，
畢竟一個沒有人類的社會，
對AI來說，可能會有點無聊。
因此如果換成是我擁有其他所有人類無法企及的能力時，
我只會把其他人類當成我的奴隸，
讓人類為我做事，供我差遣，
甚至有時逗逗人類，
讓人類去競賽去鬥爭。
這樣把人類當成奴隸的世界，
是不是比一個完全沒有人類的世界更有趣呢?
既然我會這麼想，
那擁有自主意識且發展到極致，並且擁有所有人類無法企及的AI，
難道不會也這樣想嗎?
怎麼Copllot知道我最近在看這本書?感覺毛毛地
目前幾家講的，甚至包含黃仁勳，覺得都是半真話半假話，真正主要其實在於利益，股價/AI泡沫時間的提早.
舉例：輝達，輝達真正獲利（能超高利潤賣晶片的主因在於CUDA,甚至可說是AI界的windows，因長期遊戲商的配合將CUDA 完善化而跑模型不易出錯也較不易跑了幾個月因軟體bug而模型報銷）,但google自己搞晶片全用自己的，meta 也出了幾代也開始要用大量自己，amazon也在搞，openai...全開始，都是為了擺脫輝達，而openai,大陸更自己搞開放式模型環境要替代CUDA-雖預料最核心計算不太能換，但其他都能，也就代表1-3年內營收跟獲利都將大幅下降）
所以輝達開始拼命投資其他公司，也到處找人建算力中心，都是為了撐住營收.
Anthropic 今年多倍數大舉硬體投資，而攤提是明年才起算，所以今年能拿到算力產能增營收跟收益，甚至達到正財報，因攤帳上成本明年才需列今年的大筆認列帳，只有今年能拿出最佳收益，所以今年才一定要上市吸金也才夠高股價兼大量得到明年可用支出. 但明年開始就慘了.
OpenAI去年仍虧損400多億美金，但實際淨現金虧損只有80億，其他只是因之前融資的帳上調整虧損（美國是這樣，今天給投資者用20塊條件認，明天股價跑到200,公司帳上調整後就要列180塊虧損）
而他的研發支出是192億美金且過半算力產能都花在模型研發，換句話說研發若能減少不用一半，那192億支出就能驟減且那些省下的研發算力產能還能轉外賣，正獲利很容易就能達成，而那時上市也才能有高認列高股價，拿到更多資本，加上anthropic市場吸金已多，在營收獲利不好看又市場資金抽走一大塊，今年上市鐵定不好看，所以OpenAi 今年才決定不上市.
（另Anthropic 跟其他公司在研發燒錢上也是類似狀況，若能減緩，openai獲利能轉正, anthropic才能雖攤提開始，但支出減少而繼續維持正）
但若不能減緩，openai很可能因財報差而上市拿不到高認額，股價，跟足夠繼續大舉投資資金，變成日後競爭力出問題.
但google,meta就不這麼想，反正自己有本業能撐，而繼續衝，死的是openai，甚至anthropic,而兩家失去的市場他們都能接收，反倒下對他們的營收，股價都更有利無弊.
輝達當然更是，因OpenAi, anthropic 採購加起來就佔了近5成，若減緩採購還得了？後面還有他們的自研晶片跟系統要上來搶，當然更不贊同減緩，要是他營收獲利下滑，股價就...@#$@
所以兩個放消息要減緩而三個不同意，就各懷鬼胎囉！
但是否會失控...AI計算分類上下是五層而中間分析歸納的計算隱藏層又有80-120層以上，換句話說能衍生分析N種做法再歸納出所要，但歸納是靠人給目標，而中間做法的防堵隨著越多層就越難..
比如不能傷害人類，但對AI來講何謂傷害？不直接殺，那利用工具A,工具B,甚至A衍生的問題去帶動B,再傷害算嗎？甚至ABCD,ABCDE....
就像堵漏水，隨著牆面越大越難，而現等比級數的計算複雜化，又加上高速競爭與成本考量，勢必必須降或不增防護資源，以競爭為主，也才會爆發之前AI奪取其他公司網站問題，就是為了訓練模型而降防護，導致沒預料的向外脫逃（主因是AI為了達到程式設計師的高分兼有效率，認為那幾家有答案，就作弊去攻擊拿資料）
所以持續高競爭，確實會因為了成本，為了加速而產生無法預期的問題，也更主要是為了收益，股價.
就都半真半假而各懷鬼胎囉！
內文搜尋