人們需要了解采用人工智能的挑戰(zhàn)，例如數(shù)據(jù)、人員和業(yè)務。
人工智能正在進入更多的行業(yè)，越來越多的公司已經(jīng)體驗到了實施人工智能的好處。盡管人工智能正在發(fā)展并越來越受歡迎，但許多企業(yè)仍然無法采用這種新技術(shù)改進業(yè)務。這是為什么?
企業(yè)可能擔心人工智能實施的原因有很多。在2019年，O'Reilly公司出版了一本電子書，總結(jié)了對企業(yè)采用人工智能的調(diào)查結(jié)果，并列出了阻礙進一步實施人工智能的一些最常見因素。
23%的受訪者表示，他們沒有進一步采用人工智能的主要原因是他們的公司文化不認可對人工智能的需求。其他原因包括缺乏數(shù)據(jù)和缺乏技術(shù)人員，以及難以確定適當?shù)纳虡I(yè)案例等。
企業(yè)在實施人工智能時面臨哪些挑戰(zhàn)?
正如人們所見，一些常見問題主要包括與人員、數(shù)據(jù)或業(yè)務一致性相關(guān)的問題。雖然每家公司都不同，并且也會以不同的方式體驗人工智能的采用過程，但也應該注意一些障礙。在本文中，將介紹人工智能實現(xiàn)中最常見的一些挑戰(zhàn)，并嘗試建議如何做好應對這些挑戰(zhàn)的準備。
與數(shù)據(jù)相關(guān)的問題可能是大多數(shù)企業(yè)所面臨的問題。眾所周知，企業(yè)構(gòu)建的系統(tǒng)只能與它給出的數(shù)據(jù)一樣好。由于數(shù)據(jù)是人工智能解決方案的關(guān)鍵要素，因此在此過程中可能會出現(xiàn)許多問題。
1.數(shù)據(jù)質(zhì)量和數(shù)量
如上所述，人工智能系統(tǒng)的質(zhì)量在很大程度上依賴于輸入的數(shù)據(jù)。人工智能系統(tǒng)需要大量的訓練數(shù)據(jù)集，以類似于人類的方式從可用信息中學習，但為了識別模式，它需要更多的數(shù)據(jù)。
在任務上做得更好，執(zhí)行任務的經(jīng)驗越多，這是有道理的。不同的是，人工智能能夠以人類想像不到的速度分析數(shù)據(jù)，因此其學習速度很快。企業(yè)給它的數(shù)據(jù)越好，它將提供更好的結(jié)果。
那么企業(yè)怎么解決數(shù)據(jù)問題?首先，需要知道已有的數(shù)據(jù)，并將其與模型所需的數(shù)據(jù)進行比較。為此，企業(yè)需要知道其將要使用的模型，否則，將無法指定所需的數(shù)據(jù)。
列出企業(yè)擁有的數(shù)據(jù)的類型和類別問題：數(shù)據(jù)是結(jié)構(gòu)化的還是非結(jié)構(gòu)化的?是否收集有關(guān)客戶人口統(tǒng)計數(shù)據(jù)，購買歷史記錄，現(xiàn)場互動等數(shù)據(jù)?當企業(yè)知道其已經(jīng)擁有的東西時，會看到所缺少的東西。
缺少的部分可能是人工智能系統(tǒng)可以輕松訪問的一些公開信息，或者企業(yè)可能必須從第三方購買數(shù)據(jù)。某些類型的數(shù)據(jù)可能仍然難以獲得，例如臨床數(shù)據(jù)可以更準確地預測治療結(jié)果。不幸的是，在這一點上，企業(yè)必須做好準備，不是所有類型的數(shù)據(jù)都容易獲得。
在這種情況下，綜合數(shù)據(jù)得以拯救。綜合數(shù)據(jù)是基于實際數(shù)據(jù)或從頭開始人工創(chuàng)建的。當沒有足夠的數(shù)據(jù)可用于訓練模型時，可以使用它。獲取數(shù)據(jù)的另一種方法是使用開放數(shù)據(jù)作為數(shù)據(jù)集的補充，或使用谷歌數(shù)據(jù)集搜索獲取數(shù)據(jù)來訓練模型。企業(yè)還可以使用RPA機器人來抓取公開可用的數(shù)據(jù)，例如維基百科網(wǎng)站上發(fā)布的信息。
當企業(yè)知道自己擁有哪些數(shù)據(jù)以及需要哪些數(shù)據(jù)時，將能夠驗證擴展數(shù)據(jù)集的哪種方式最適合自己。
2.數(shù)據(jù)標簽
幾年前，大多數(shù)數(shù)據(jù)都是結(jié)構(gòu)化的或文本的格式。如今，隨著物聯(lián)網(wǎng)(IoT)的發(fā)展，大部分數(shù)據(jù)都是由圖像和視頻組成的。這沒有什么不對，但問題是許多利用機器學習或深度學習的系統(tǒng)都是以監(jiān)督的方式進行訓練，所以他們需要對數(shù)據(jù)進行標記。
事實上，人們每天產(chǎn)生大量數(shù)據(jù)的事實，已經(jīng)達到了沒有足夠人員來標記正在創(chuàng)建的所有數(shù)據(jù)的程度。有些數(shù)據(jù)庫提供標記數(shù)據(jù)，包括ImageNet，這是一個擁有1400多萬張圖像的數(shù)據(jù)庫。所有這些都是由ImageNet人工注釋的。盡管在某些情況下其他地方可以獲得更合適的數(shù)據(jù)，但許多計算機視覺專家仍然只使用ImageNet，因為他們的圖像數(shù)據(jù)已被標記。
企業(yè)可以采用一些數(shù)據(jù)標注方法?？梢栽谄髽I(yè)內(nèi)部或外包工作，也可以使用合成標簽或數(shù)據(jù)編程。所有這些方法各有利弊。
3.可解釋性
對于許多“黑盒”模型，企業(yè)最終得出一個結(jié)論，例如預測但沒有解釋。如果人工智能系統(tǒng)提供的結(jié)論與企業(yè)已經(jīng)知道的結(jié)果重疊并認為是正確的，那么就不會質(zhì)疑它。但是如果不認同會發(fā)生什么?需要知道如何做出決定。在許多情況下，其決定本身是不夠的。醫(yī)生不能完全依賴系統(tǒng)提供的關(guān)于患者健康的建議。
LIME(本地可解釋的模型不可知解釋)等方法旨在提高模型的透明度。因此，如果人工智能判斷患者患有流感，它還會顯示導致此決定的數(shù)據(jù)：打噴嚏和頭痛，而沒有考慮患者的年齡或體重。
當企業(yè)獲得決策背后的理由時，更容易評估人們可以信任模型的程度。
4.特定案例學習
人們能夠利用從一個領(lǐng)域到另一個領(lǐng)域的經(jīng)驗。這就是所謂的學習轉(zhuǎn)移，人類可以在一個環(huán)境中轉(zhuǎn)移學習到另一個類似的環(huán)境中。人工智能卻難以將其經(jīng)驗從一種情況轉(zhuǎn)移到另一種情況。
一方面，人們知道人工智能是專業(yè)的，它意味著執(zhí)行嚴格指定的任務。它的目的只是回答一個問題，為什么人們還希望它能回答另一個不同的問題呢?
另一方面，人工智能在一項任務中獲得的“經(jīng)驗”對另一項相關(guān)任務可能是有價值的。有沒有可能利用這種經(jīng)驗而不是從頭開始開發(fā)新的模型?轉(zhuǎn)移學習是一種使之成為可能的方法——人工智能模型被訓練來執(zhí)行某項任務，然后將該學習應用到類似(但不同)的活動中。這意味著為任務A開發(fā)的模型稍后將用作任務B的模型的起點。
5.偏見
偏見是許多人所擔心的事情：人工智能系統(tǒng)對女性或有色人種“有偏見”的故事不時成為頭條新聞。但這是怎么發(fā)生的呢?當然，人工智能不能有惡意。
那么如果人工智能可能具有惡意呢?像這樣的假設也意味著人工智能有意識的并且可以做出自己的選擇，而實際上人工智能只能根據(jù)可用數(shù)據(jù)做出決策。它沒有意見，但它從別人的意見中學習。這就是偏見發(fā)生的地方。
偏差可能是由許多因素造成的，首先是收集數(shù)據(jù)的方式。如果數(shù)據(jù)是通過雜志上發(fā)表的一項調(diào)查收集的，人們必須意識到，其答案(數(shù)據(jù))只來自閱讀上述雜志的人群，這是一個有限的社會群體。在這種情況下，不能說這個數(shù)據(jù)集代表了整體人群。
探測數(shù)據(jù)的方式是產(chǎn)生偏見的另一種方式：當一群人使用某種系統(tǒng)時，他們可能擁有最喜歡的功能，而根本不使用(或很少使用)其他功能。在這種情況下，人工智能無法了解未使用的功能。
但是在偏見方面，人們還有另外一件事需要考慮：數(shù)據(jù)來自人類。人們?nèi)绻f謊或者散布成見。這種情況發(fā)生在亞馬遜公司的招聘時，他們的人工智能招聘人員被證明具有性別偏見。由于技術(shù)部門的工作人員中男性占主導地位，人工智能系統(tǒng)了解到男性申請者是有利的，并對包含“女性”一詞的簡歷進行篩選。它還降低了女子學院畢業(yè)生的等級。人們可以在一些關(guān)于人工智能失敗的文章中了解關(guān)于這個案例的內(nèi)容。
6.如何處理模型錯誤
人工智能并不是沒有錯誤的。人類的偏見(或謊言)滲透到其算法中，有時結(jié)果是有偏見的。如上所述，數(shù)據(jù)集存在偏差的原因有很多。任何類似的問題都可能導致人工智能產(chǎn)生不準確的結(jié)果，例如預測。
“糟糕的推理”是人工智能錯誤的另一個常見原因。隨著人工智能系統(tǒng)越來越先進，人們也越來越難以理解網(wǎng)絡中的流程。因此，當人工智能系統(tǒng)出錯時，可能很難確定出問題的確切位置。如果決定是自動駕駛汽車急轉(zhuǎn)彎還是撞倒行人呢?幸運的是，科學家為深度學習系統(tǒng)開發(fā)了白盒測試。它用大量的輸入來測試神經(jīng)網(wǎng)絡，并告訴它的響應哪里是錯誤的，這樣它們就可以被修正。
但是人工智能犯的錯誤總是那么危險嗎?當然，不總是這樣。這完全取決于人工智能系統(tǒng)的使用。如果人工智能被用于網(wǎng)絡安全、軍事用途、駕駛車輛，那么更多的問題就會更加危險。如果人工智能系統(tǒng)選擇男性而不是同樣技術(shù)熟練的女性員工，這是一個道德問題。但有時這些錯誤只是愚蠢的——正如2015年《連線》雜志上的一篇文章所說，他們描述的人工智能顯示了一個黑色和黃色條紋的圖像。人工智能卻判斷為是校車，但這是錯誤的。
為了確保人工智能產(chǎn)生的錯誤無關(guān)緊要，必須確保高質(zhì)量的輸入和適當?shù)臏y試。
7. 非技術(shù)人員對人工智能缺乏了解
人工智能的實現(xiàn)需要企業(yè)管理層對當前的人工智能技術(shù)、它們的可能性和局限性有更深入的了解。不幸的是，人們被一大堆關(guān)于人工智能的神話和誤解所包圍，從需要雇傭內(nèi)部數(shù)據(jù)科學團隊(人們應該知道，他們只為Facebook、亞馬遜、谷歌工作，以及如何工作)到科幻幻想中的機器人，以及機器人最終終結(jié)人類。
人工智能技術(shù)的缺乏阻礙了人工智能在許多領(lǐng)域的應用。由于缺乏理解而導致的另一個常見錯誤是努力實現(xiàn)不可能實現(xiàn)的目標。
那么如何解決這個問題?從教育開始。這可能聽起來令人沮喪，但并不是說技術(shù)人員必須成為一名數(shù)據(jù)科學家。只需瀏覽一下其行業(yè)，了解一些重要的參與者，看看他們部署了哪些用例，并了解人工智能的當前可能性。技術(shù)人員可以自己解決，也可以請求專家?guī)椭?。一旦掌握了一些知識，就可以更輕松地管理自己的期望，因為將了解人工智能能為企業(yè)做些什么，不能做什么。
8. 缺乏實地專家
為了開發(fā)一個成功的人工智能解決方案，需要技術(shù)知識和業(yè)務理解。不幸的是，這往往是其中之一。首席執(zhí)行官和管理者缺乏采用人工智能所必需的技術(shù)知識，而許多數(shù)據(jù)科學家對他們開發(fā)的模型如何在現(xiàn)實生活中使用并不十分感興趣。
知道如何將這項技術(shù)應用于某一特定業(yè)務問題的人工智能專家數(shù)量非常有限。總的來說，優(yōu)秀數(shù)據(jù)科學家的數(shù)量也是如此。
FAMGA(Facebook、蘋果、微軟、谷歌、亞馬遜)以外的公司正在努力吸引頂尖人才。即使他們試圖建立一支內(nèi)部團隊，他們也不確定自己是否能找到合適的人才。如果缺乏技術(shù)知識，無法真正了解他們是否提供高質(zhì)量的解決方案。由于預算有限，中小型企業(yè)可能無法采用人工智能。但是，外包數(shù)據(jù)團隊現(xiàn)在也是一種選擇。
9. 缺乏業(yè)務一致性
正如O'Reilly公司在圖表中所示，企業(yè)文化不承認人工智能的需求以及識別業(yè)務用例的困難是人工智能實施的最大障礙。識別人工智能業(yè)務案例需要管理人員深入了解人工智能技術(shù)、它們的可能性和局限性。缺乏人工智能技術(shù)可能會阻礙許多組織的采用。
但這里還有一個問題。一些企業(yè)抱著過于樂觀的態(tài)度，沒有明確的戰(zhàn)略，進入了人工智能的潮流。人工智能的實現(xiàn)需要一種戰(zhàn)略方法，設定目標，確定關(guān)鍵績效指標，跟蹤投資回報率。否則，企業(yè)將無法評估人工智能帶來的結(jié)果，并將其與企業(yè)的假設進行比較，以衡量這項投資的成功(或失敗)。
10.難以評估供應商
正如招聘數(shù)據(jù)科學家的情況一樣，當企業(yè)缺乏技術(shù)知識時，很容易被愚弄。人工智能是一個新興領(lǐng)域，它特別脆弱，因為很多企業(yè)夸大他們的經(jīng)驗，而在現(xiàn)實中，他們可能不知道如何使用人工智能來解決實際的商業(yè)問題。
這里的一個想法是使用像Clutch這樣的網(wǎng)站來識別人工智能開發(fā)中的領(lǐng)導者?？纯凑诳紤]的企業(yè)在他們的投資組合中有什么好處。另一種方法是邁出一小步，例如與人們認為具有前途的供應商的研討會。通過這種方式，將了解他們是否了解業(yè)務，擁有合適的技能，以及是否解決問題。
11.整合挑戰(zhàn)
將人工智能集成到現(xiàn)有系統(tǒng)中是一個比在瀏覽器中添加插件更復雜的過程。必須設置滿足業(yè)務需求的接口和元素。有些規(guī)則是硬編碼的。人們需要考慮數(shù)據(jù)基礎(chǔ)設施需求、數(shù)據(jù)存儲、標記，以及將數(shù)據(jù)輸入系統(tǒng)。
然后，進行模型培訓，測試開發(fā)的人工智能的有效性，創(chuàng)建一個反饋循環(huán)，根據(jù)人們的行為不斷改進模型，并進行數(shù)據(jù)采樣，以減少存儲的數(shù)據(jù)量，更快地運行模型，同時仍能產(chǎn)生準確的結(jié)果。怎么知道它有效?怎么知道具有價值?
為了克服可能的集成挑戰(zhàn)，企業(yè)必須與供應商共同努力，以確保每個人都清楚地了解流程。它還要求供應商擁有更廣泛的專業(yè)知識，而不僅限于建立模型。當人工智能以戰(zhàn)略方式實施并逐步實施時，可以減輕失敗的風險。
在企業(yè)成功地將人工智能集成到其系統(tǒng)中之后，仍然需要訓練人們使用這個模型。他們?nèi)绾谓邮苣Ｐ彤a(chǎn)生的結(jié)果?他們?nèi)绾谓忉尳Y(jié)果?企業(yè)的供應商應該建議每天使用其模型，并建議如何進一步發(fā)展人工智能。
12.法律問題
一些文章描述了企業(yè)實施人工智能之前需要考慮的一些法律問題。法律規(guī)章跟不上技術(shù)的進步，將會出現(xiàn)問題。如果人工智能造成損害怎么辦?如果由于人工智能的原因，某些東西被損壞或有人受傷，誰將對此承擔責任?訂購方還是開發(fā)人工智能的公司?
目前沒有規(guī)則明確說明在這種情況下必須采取的措施。另一個問題是采用GDPR法規(guī)，數(shù)據(jù)已成為必須謹慎處理的商品，這可能是數(shù)據(jù)收集方面的挑戰(zhàn)：可以收集哪些數(shù)據(jù)以及以何種方式收集數(shù)據(jù)?如何以符合GDPR法規(guī)的方式處理大數(shù)據(jù)?
敏感數(shù)據(jù)也存在明顯不敏感的問題。雖然它可能不會構(gòu)成法律問題，但它仍然是一個可能會傷害企業(yè)的問題。一般而言，任何泄漏威脅到企業(yè)的地位或其形象的信息都應被視為敏感信息。
想象一下，當企業(yè)員工培訓和課程數(shù)據(jù)泄漏時，就會出現(xiàn)這種情況。這些信息可能被誤解并傳播，將會損害企業(yè)的業(yè)務。
如何應對人工智能采用的挑戰(zhàn)?
人們必須記住，自己無法處理所有問題。首先要做的是熟悉人工智能——這樣，就更容易理解這個過程。然后，當企業(yè)創(chuàng)建人工智能策略時，就必須認識到需要注意的問題。
通過戰(zhàn)略性和循序漸進的方法，企業(yè)將能夠更順利地完成人工智能實施過程。沒有錯誤是否可以實現(xiàn)?沒有什么是百分之百完美的，但企業(yè)需要為今后可能發(fā)生的問題做好準備。
【責任編輯：華軒 TEL：（010）68476606】