時間倒回前幾年，如果小雷和小伙伴們聊聊AI，你們可能覺得我在天方夜譚？
彼時AI留給人們的印象，還停留在科幻電影的智能機器人、智能生活助手等等。
真要說起來，離我們最近的應該就是手機里頭，那個腦袋不太聰明的語音助手。
語音助手句句有回應，但是回得對不對就是另一回事了，你說對吧，Siri？
但放到現(xiàn)在可就不一樣，這幾年AI發(fā)展有多快大伙看在眼里，AI元年早就來嘍。
在圖片、視頻、音頻以及文字等領域，AI已經(jīng)玩出了花，甚至可以說是「顛覆」。
就拿應用最廣泛的圖片AI來說，其實在我們平時的生活里，現(xiàn)在已經(jīng)隨處可見了。
戶外的廣告牌、電梯里的海報、商場里的促銷圖……大伙琢磨下是不是這么回事？
不僅如此，很多APP還加入圖片AI方面的功能，然而隨之而來的卻是爭議的聲音。
蘋果和谷歌先后下架相關APP，國內(nèi)手機廠商也禁止操作，這到底是怎么回事兒？
蘋果谷歌下架脫衣AI APP
目前AI在圖片上的應用，大概有這幾類：AI生圖、擴圖、消除以及修復畫質等。
這些都是很正常的內(nèi)容，但有些別有用心的人，卻以此開發(fā)出了一些惡意APP。
就在上周五，外媒404 Media報道：蘋果和谷歌分別在應用商店下架多款自稱能夠實現(xiàn)「一鍵換衣」的APP。
「一鍵換衣」聽起來很離譜，但其實這玩意可以看作是「一鍵換臉」的升級版。
圖源：404 Media
早在2019年，就有程序員開發(fā)出一款名為「DeepNude」的「一鍵脫衣」APP。
開發(fā)者聲稱，給DeepNude一張女性圖片，它就能靠神經(jīng)網(wǎng)絡技術，脫掉人物衣服生成未穿衣服的圖片。
好家伙，這個APP要是落到歪腦筋的人手里，那可不就是妥妥的不雅照生成器嗎？
結局是為了防止DeepNude被濫用，最終開發(fā)者選擇關閉DeepNude的網(wǎng)站和APP。
圖源：IT之家
如果說DeepNude只是獨立開發(fā)者的小打小鬧，那如今在蘋果和谷歌應用商店上架的「一鍵脫衣」APP，是怎么通過審核的呢？
據(jù)報道，這些APP很多都來自Meta平臺的廣告庫，這些惡意APP的廣告一般在Meta旗下的平臺投放。
用戶一點擊廣告就會跳轉到蘋果或谷歌的應用商店，也就是說，用戶壓根不用自己搜索「脫衣」等關鍵詞就能找到類似APP。
而且這類AI APP通常被包裝成其他AI生成類APP，開發(fā)者大概率就是通過這種方式，躲開蘋果和谷歌應用商店的審查機制。
費了這么多功夫，APP開發(fā)者肯定不是用愛發(fā)電，而是通過「一鍵脫衣」功能賺取不義之財。
好在經(jīng)過外媒報道后，蘋果和谷歌也作出了實際行動，下架了多款「一鍵脫衣」APP。
Meta平臺也在積極收集惡意廣告鏈接下架刪除，還表示接下來將加大審查力度，針對違反規(guī)定的政策采取措施。
圖源：indianexpress網(wǎng)
AI消除敏感圖片被禁
除了上面這事兒，小雷發(fā)現(xiàn)國內(nèi)手機廠商，也針對「AI消除」作出了一些限制。
我沒記錯的話，手機擁有「AI消除」這功能，應該是從去年開始才流行起來的。
AI消除能通過AI技術，較完美地去掉照片中多余的人和物，讓照片看起來更簡潔。
左 AI消除前 右 AI消除后 圖源：小雷手機截圖
只是不知道哪個神人突發(fā)奇想，竟然把AI消除用在了消除女性照片胸部的位置。
咳咳，結果一些手機的AI消除功能，就把衣服給消除，甚至還把人體給補齊了。
AI本來是根據(jù)邊緣背景進行計算，修補后的效果看著的確和諧，不能怪它不行。
還是那句話，有人不懷好意的話，這個功能確實能生成一些本不存在的不雅照。
圖源：網(wǎng)絡
這事當時挺多人關注，不過經(jīng)過媒體報道后，主流品牌手機的AI消除都作出了限制。
現(xiàn)在對照片中的人體敏感部位使用AI消除，會出現(xiàn)「圖片可能包含敏感信息，無法使用此功能」類似的提示。
如果涂抹的是其他地方，則AI消除可以正常使用，小伙伴們可以試試自己的手機，應該都有這種限制了。
圖源：小雷手機截圖
AI圖片是把雙刃劍
蘋果谷歌下架「一鍵脫衣」APP，手機廠商禁止AI消除敏感照片，AI圖片已經(jīng)發(fā)展到了這個程度。
其實從AI在圖片上的實際應用來看，它更像一把雙刃劍，在帶來方便的同時也帶來了一些麻煩。
AI圖片的好處很多：在攝影行業(yè)，可以幫助攝影師后期美顏和降噪；在設計行業(yè)，可以讓設計師少些繁瑣的畫圖工作；而在自媒體行業(yè)，小雷發(fā)現(xiàn)已經(jīng)有一些同行使用AI為文章配圖，AI生成圖既符合文章大意，又不會有侵權的風險。
AI圖片的麻煩也不少：一鍵換臉、一鍵脫衣、一鍵無中生有增加人體細節(jié)……，AI在關于人的隱私安全方面，依然還有不少漏洞會被不法分子鉆。
雖然每次曝出類似新聞的時候，相關企業(yè)或者平臺都能及時行動，作出或下架或禁止的舉措，但總是要等事情發(fā)生后再亡羊補牢，往往就容易出岔子。
AI圖片應用之路才剛剛開始，小雷覺得前面這些案例，已經(jīng)足夠讓AI開發(fā)者們得到警示嘍。
在開發(fā)AI更多新功能時，AI開發(fā)者們應該提前考慮新功能落地后，可能會出現(xiàn)的負面操作和影響。
能在落地前解決自然最好，如果不能推遲落地或者采用更合理的方式實現(xiàn)原先方式80%的效果，也不是不行。
總之，小伙伴們還是要以合理眼光看待「AI圖片」，小雷也相信AI未來的發(fā)展會越來越好。
封面圖源：蘋果App Store&網(wǎng)絡
4月25日-5月4日，北京國際汽車展覽會(北京車展)正在火熱進行。本屆車展以“新時代新汽車”為主題，是“汽車從電動化走向智能化”的風向標。
雷科技旗下“關注電動車，更懂智能化”的賬號電車通已派出豪華報道團，正在北京車展現(xiàn)場，進行一線專業(yè)報道，歡迎關注“電車通”獲取一手專業(yè)現(xiàn)場報道。
版權聲明：本文內(nèi)容由互聯(lián)網(wǎng)用戶自發(fā)貢獻，該文觀點僅代表作者本人。本站僅提供信息存儲空間服務，不擁有所有權，不承擔相關法律責任。如發(fā)現(xiàn)本站有涉嫌抄襲侵權/違法違規(guī)的內(nèi)容， 請發(fā)送郵件至 舉報，一經(jīng)查實，本站將立刻刪除。
