人工智慧如何毀滅人類

有點low的論調，不曉得為什麼主流媒體永遠只圍繞在AI會進化到超人智慧，然後不小心弄死人類。然而這種論調實際上是沒有真實性的。

山姆‧哈里斯: 我們能打造不會失控的人工智慧？
http://www.ted.com/talks/sam_harris_can_we_build_ai_without_losing_control_over_it/transcript?language=zh-tw

個人認為比較大的可能性是人類作繭自縛

藉題發揮來作點文章

我們知道Google搜尋會根據我們的搜尋記錄重新調整搜尋結果
我說的是搜尋記錄而不是偏好，因為搜尋記錄不一定反應偏好
同樣的Google旗下的Youtube產品也有類似問題
不過除了搜尋記錄以外，Youtube更傾向於推銷廣告

最近幾天我的Youtube被某個話題的影片所佔滿
因為我從來沒有搜尋過相關話題，而且那些影片的立場完全偏向某一方
很明顯這屬於推銷過來的廣告，而且這還是有計劃的大規模宣傳活動
有些甚至已經完全置入到我觀看的影片之中
對此我只能往兩個方向來思考這整件事
一、Google的機制被有心人劫持完成特定的宣傳目的，不過我不大相信Google如此無能
二、對方付很多錢給Google讓Google做這件事，Google畢竟需要營收所以有此可能
三、Google是自動自發做這件事，難道Google內部員工有大量的…嗯？

不過這無所謂，頂多這幾天少用點Youtube就沒事了
外面的天空還是一樣的藍…仔細看了一下其實是灰的
這時突然想到，要是有一天我們看的影片看的圖片全都欺騙了我們該怎麼辦？
深度學習系統將影像中的3x3像素解釋為某個廣告商的某個產品並清楚呈現出來事小
要是有心人利用深度學習將影像中所有資訊全部竄改成特定立場的時候
這時候我們是否還有能力分辦自己接收到的資訊是真是假？
不論影像、聲音、文字所有資訊通通都被高效的深度學習竄改了呀
然後人類自己就被自己創造出來的系統反過來綁架了
而且再也無從分辨，因為所有的系統都是以那些系統和服務所建構的
一旦拒絕使用就會迅速退化到史前時代
這時候天空是什麼顏色就再也不重要了
深度學習系統會自動幫我們決定好

這樣的未來倒底是好還是不好呢？


原貼
https://forum.gamer.com.tw/Co.php?bsn=60030&sn=1987083
原串被砍頭了