克服人工智能發展障礙的關鍵

更可靠的數據

簡介

1939 年,當《綠野仙踪》中的鐵皮人登上銀幕時,人工智能開始吸引人們的想像力,此後它才在時代精神中站穩了腳跟。 然而,在應用中,人工智能產品經歷了規律的繁榮與蕭條週期,迄今為止,這些週期阻礙了最具影響力的採用。

在繁榮時期,工程師和研究人員取得了巨大的進步,但當他們的願望不可避免地超過當時可用的計算能力時,就會進入休眠期。 幸運的是,摩爾定律在 1965 年預言的計算能力的指數增長在很大程度上被證明是準確的,這種增長的重要性再怎麼強調也不為過。

人工智能發展障礙
閱讀電子書:克服人工智能發展障礙的關鍵,或 下載 PDF 版本的電子書。

克服人工智能發展障礙的關鍵:更可靠的數據

今天,普通人現在口袋裡的計算能力是美國宇航局 1969 年登月時的數百萬倍。 同樣無處不在的設備,方便地展示了豐富的計算能力,也滿足了人工智能黃金時代的另一個先決條件:大量數據。 根據信息過載研究小組的見解,全球 90% 的數據是在過去兩年中創建的。 現在,計算能力的指數級增長最終與數據生成的同樣快速增長相融合,人工智能數據創新正在爆炸式增長,以至於一些專家認為將啟動第四次工業革命。

來自美國國家風險投資協會的數據顯示,人工智能領域在 6.9 年第一季度的投資達到創紀錄的 2020 億美元。不難看出人工智能工具的潛力,因為它已經在我們身邊被挖掘。 AI 產品的一些更明顯的用例是我們最喜歡的應用程序(如 Spotify 和 Netflix)背後的推薦引擎。 雖然發現一個新的藝術家來聽或一個新的電視節目來狂歡很有趣,但這些實現的風險相當低。 其他算法對考試成績進行評分——部分確定學生被大學錄取的位置——還有一些算法篩選候選人簡歷,決定哪些申請人獲得特定工作。 一些人工智能工具甚至可以產生生死攸關的影響,例如篩查乳腺癌的人工智能模型(其表現優於醫生)。

儘管 AI 開發的真實案例和競爭創建下一代轉型工具的初創公司數量穩步增長,但有效開發和實施的挑戰仍然存在。 特別是,AI 輸出僅在輸入允許的範圍內準確,這意味著質量至關重要。

人工智能發展障礙

AI 解決方案中數據質量不一致的挑戰

據《今日社交媒體》報導,每天確實產生了驚人的數據量:2.5 千億字節。 但這並不意味著這一切都值得訓練你的算法。 有些數據是不完整的,有些是低質量的,有些是完全不准確的,所以使用這些錯誤信息中的任何一個都會導致你的(昂貴的)人工智能數據創新具有相同的特徵。 根據 Gartner 的研究,到 85 年創建的 AI 項目中,約有 2022% 將由於有偏見或不准確的數據而產生不准確的結果。 雖然您可以輕鬆跳過不適合您口味的歌曲推薦,但其他不准確的算法會帶來巨大的財務和聲譽成本。

2018 年,亞馬遜開始使用人工智能驅動的招聘工具,該工具自 2014 年開始投入生產,該工具對女性有著強烈且明確無誤的偏見。 事實證明,支持該工具的計算機模型是使用十多年來提交給公司的簡歷進行訓練的。 因為大多數技術申請者是男性(現在仍然是,也許是因為這項技術),算法決定懲罰包含“女性”的簡歷,例如女子足球隊長或女子商業團體。 它甚至決定懲罰兩所女子學院的申請者。 亞馬遜聲稱該工具從未被用作評估潛在候選人的唯一標準,但招聘人員在尋找新員工時會查看推薦引擎。

亞馬遜的招聘工具經過多年的工作最終被廢棄,但教訓仍然存在,凸顯了訓練算法和人工智能工具時數據質量的重要性。 “高質量”數據是什麼樣的? 簡而言之,它檢查這五個框:

相應

1.相關

要被認為是高質量的,數據必須為決策過程帶來一些有價值的東西。 求職者作為州冠軍撐桿跳高運動員的身份與他們的工作表現之間是否存在相關性? 這是可能的,但似乎不太可能。 通過剔除不相關的數據,算法可以專注於對實際影響結果的信息進行分類。

準確

2.準確

您使用的數據必須準確地代表您正在測試的想法。 如果沒有,那就不值得了。 例如,亞馬遜使用申請人 10 年的簡歷來訓練其招聘算法,但尚不清楚該公司是否首先確認了這些簡歷中提供的信息。 參考資料檢查公司 Checkster 的研究表明,78% 的求職者在求職申請中撒謊或會考慮撒謊。 例如,如果算法使用候選人的 GPA 做出推薦決策,最好首先確認這些數字的真實性。 這個過程需要時間和金錢,但它也無疑會提高結果的準確性。

正確組織和註釋

3. 正確組織和註釋

對於基於簡歷的招聘模型,註釋相對容易。 從某種意義上說,簡歷是預先註釋的,儘管毫無疑問會有例外。 大多數申請人在“經驗”標題下列出他們的工作經驗,在“技能”下列出相關技能。 然而,在其他情況下,例如癌症篩查,數據會更加多樣化。 信息可能以醫學影像、體檢結果、甚至醫生和患者之間關於家族健康史和癌症實例的對話以及其他形式的數據的形式出現。 為了使這些信息有助於準確的檢測算法,必須仔細組織和註釋,以確保 AI 模型學習根據正確的推理做出準確的預測。

最新

4. 最新

亞馬遜正試圖創建一種工具,通過重現人類在更短的時間內做出的相同招聘決定來節省時間和金錢。 為了使建議盡可能準確,數據需要保持最新。 例如,如果一家公司曾經表現出對有能力修理打字機的候選人的偏愛,那麼這些歷史性招聘可能不會對當今求職者是否適合任何類型的角色產生太大影響。 因此,刪除它們是明智之舉。

適當多樣化

5.適當多樣化

亞馬遜工程師選擇用絕大多數男性申請人來訓練算法。 這個決定是一個嚴重的錯誤,而且由於這些是公司當時可用的簡歷,這一事實同樣令人震驚。 亞馬遜工程師本可以與具有類似功能的受人尊敬的組織合作 已收到更多女性求職者以彌補不足的可用職位,或者可能有 人為地減少男性的簡歷數量以匹配女性的數量,並經過培訓和 以更準確的總體表示指導算法。 重點是數據 多樣性是關鍵,除非齊心協力消除輸入偏差,否則偏差輸出將 佔上風。

顯然,高質量的數據並不是憑空出現的。 相反,它必須在考慮預期結果的情況下仔細策劃。 在AI領域,常說“進垃圾,出垃圾”。 這種說法是正確的,但它在某種程度上低估了質量的重要性。 AI 可以處理大量信息並將其轉化為任何內容,從選股到招聘建議再到醫療診斷。 這種能力遠遠超過人類的能力,這也意味著它可以放大結果。 一個有偏見的招聘人員只能忽略這麼多女性,但一個有偏見的 AI 招聘人員可能會忽略所有女性。 從這個意義上說,垃圾進不只是意味著垃圾出——這意味著少量的“垃圾”數據可以變成一個完整的垃圾填埋場。

克服人工智能發展障礙

無論在哪個行業,人工智能的開發工作都存在重大障礙,從一個可行的想法到成功的產品的過程充滿了困難。 在獲取正確數據的挑戰和將其匿名化以符合所有相關法規的需求之間,感覺實際上構建和訓練算法是容易的部分。

為了讓您的組織在設計突破性的新 AI 開發的工作中獲得一切必要的優勢,您需要考慮與像 Shaip 這樣的公司合作。 Chetan Parikh 和 Vatsal Ghiya 創立了 Shaip,旨在幫助公司設計可以改變美國醫療保健的各種解決方案。經過 16 年的經營,我們公司已經發展到擁有 600 多名團隊成員,我們已經與數百名客戶將引人注目的想法轉化為 AI 解決方案。

通過我們的人員、流程和平台為您的組織工作,您可以立即獲得以下四個好處,並推動您的項目取得成功:

1. 解放數據科學家的能力


AI 開發過程需要花費大量時間,這是無可避免的,但您始終可以優化團隊花費最多時間執行的功能。 您聘請數據科學家是因為他們是高級算法和機器學習模型開發方面的專家,但研究一致表明,這些員工實際上將 80% 的時間用於採購、清理和組織將為項目提供動力的數據。 超過四分之三 (76%) 的數據科學家報告說,這些平凡的數據收集過程也恰好是他們工作中最不喜歡的部分,但對高質量數據的需求只留下了 20% 的時間用於實際開發,這是對於許多數據科學家來說,這是最有趣和最能激發智力的工作。 通過通過第三方供應商(如 Shaip)採購數據,公司可以讓其昂貴且才華橫溢的數據工程師將他們的工作外包為數據管理員,而將時間花在人工智能解決方案的部分上,在那裡他們可以產生最大的價值。

2. 取得更好結果的能力

許多人工智能開發領導者決定使用開源或眾包數據來減少開支,但從長遠來看,這一決定幾乎總是導致成本增加。 這些類型的數據很容易獲得,但它們無法與精心策劃的數據集的質量相匹配。 眾包數據尤其充斥著錯誤、遺漏和不准確之處,雖然這些問題有時可以在開發過程中在工程師的監督下解決,但如果您開始使用更高級別的數據,則不需要額外的迭代。 - 質量數據從一開始。

依賴開源數據是另一種常見的捷徑,但也有一些陷阱。 缺乏差異化是最大的問題之一,因為使用開源數據訓練的算法比建立在許可數據集上的算法更容易複製。 通過這條路線,您會邀請該領域其他進入者的競爭,他們可以隨時降低您的價格並搶占市場份額。 當您依賴 Shaip 時,您將訪問由熟練管理的勞動力收集的最高質量的數據,我們可以授予您自定義數據集的獨家許可,以防止競爭對手輕鬆地重新創建您來之不易的知識產權。

3. 接觸經驗豐富的專業人士

接觸經驗豐富的專業人士 即使您的內部名冊包括熟練的工程師和才華橫溢的數據科學家,您的 AI 工具也可以從只有通過經驗而來的智慧中受益。 我們的主題專家在他們的領域率先實施了許多人工智能,並在此過程中吸取了寶貴的經驗教訓,他們的唯一目標是幫助您實現自己的目標。

通過領域專家為您識別、組織、分類和標記數據,您知道用於訓練算法的信息可以產生最佳結果。 我們還定期進行質量保證,以確保數據符合最高標準,並且不僅在實驗室中,而且在現實世界中都能按預期執行。

4. 加速開發時間表

AI 開發不會在一夜之間發生,但是當您與 Shaip 合作時,它會發生得更快。 內部數據收集和註釋造成了嚴重的操作瓶頸,阻礙了其餘的開發過程。 與 Shaip 合作可讓您即時訪問我們龐大的即用型數據庫,我們的專家將能夠利用我們深厚的行業知識和全球網絡獲取您需要的任何類型的額外輸入。 沒有採購和註釋的負擔,您的團隊可以立即開始實際開發工作,我們的訓練模型可以幫助識別早期不准確之處,以減少實現準確度目標所需的迭代。

如果您不准備外包數據管理的所有方面,Shaip 還提供了一個基於雲的平台,可幫助團隊更有效地生成、更改和註釋不同類型的數據,包括對圖像、視頻、文本和音頻的支持. ShaipCloud 包括各種直觀的驗證和工作流程工具,例如用於跟踪和監控工作負載的專利解決方案、用於轉錄複雜和困難的錄音的轉錄工具以及用於確保不妥協質量的質量控制組件。 最重要的是,它是可擴展的,因此可以隨著項目的各種需求的增加而增長。

AI 創新的時代才剛剛開始,未來幾年我們將看到令人難以置信的進步和創新,這些進步和創新有可能重塑整個行業甚至改變整個社會。 在 Shaip,我們希望利用我們的專業知識成為一股變革力量,幫助世界上最具革命性的公司利用人工智能解決方案的力量來實現雄心勃勃的目標。

我們在醫療保健應用程序和對話式 AI 方面擁有豐富的經驗,但我們也擁有為幾乎任何類型的應用程序訓練模型的必要技能。 有關 Shaip 如何幫助您將項目從創意變為實施的更多信息,請查看我們網站上提供的許多資源或立即與我們聯繫。

加速開發時間表

我們聊聊吧

  • 通過註冊,我同意 Shaip 隱私政策條款及細則 並同意接受來自 Shaip 的 B2B 營銷傳播。