欺詐者輸給了我們的創新解決方案

多年來，我們一直在創造數字工具來關閉人們的思維。 它應該是快速、簡單、直觀的。 在本世紀初，對簡約的追求奏效了。 然而，當時我們在 Allegro 上貨到付款。 今天，在銀行應用程序中，我們處理的金額不斷增加。 人工智能，或者更確切地說，配備人工智能工具的網絡犯罪分子，正等待著它的到來。

在過去的幾個月裡，我們一直在研究 Symetria 中創新支付方式的三個獨立概念。 當我回顧每一項研究的結果時，我得出了一個嚴峻的結論。 作為消費者，我們不了解技術以及我們在設備上所做的事情。 如此之多以至於它已經威脅到我們的數字安全。 然而，問題不在於設計不當的服務不能提供足夠的安全級別。 越來越多的用戶甚至不再具備基本的技術知識。

我們使用應用程序並用手機支付，經歷了整個過程，即使我們真的不知道點擊“確定”我們同意什麼。 我們不知道“NFC”這個名稱下究竟隱藏著什麼，但在這種情況下，很多人可能會彈跳球，因為他們可以說我們不知道“wi-fi”或“藍牙”是什麼意思。 但是，如果我們沒有意識到當我們將付款設置為“默認”時，每次我們使用給定功能時都會使用它，可能 - 充其量 - 會導致誤解，在更壞的情況下，會導致不必要的購買。

在 Symetria 團隊進行的研究中，我們還注意到用戶經常通過類比來行動。 如果我們使用 BLIK 等支付，我們會從以往經驗的角度評估和使用新系統。 因此，如果過程相似，我們可能會誤解我們正在做的事情。 在 Symetria，我們測試了允許您使用信用卡驗證買家年齡的解決方案。 當他們首先將產品添加到購物車，然後必須通過刷卡確認他們的年齡時，系統運行不佳，因為他們憑直覺想在這個階段付款。 只有消費者選擇產品之前的流程和驗證的逆轉導致打破模式並思考他們實際使用卡片的目的。

我們犯下了我們自己挑起的錯誤，一刻也沒有停下來，都市傳說加劇了不信任。 經常在某處聽到有人用便攜式非接觸式終端從公交車上的人那裡拿錢的案例，同時這與事實無關。 這最能說明對技術的誤解程度。

我們的行業被理解為與數字產品的可用性、用戶體驗研究或設計相關的人群，或多或少不知不覺地導致接受者不了解數字工具的工作原理。 技術太複雜？ 不完全的。

然而，多年來我們一直遵循 Steve Krug 的建議：不要讓我思考。 創建簡單直觀事物的誘人想法。 讓客戶快速實現目標的服務，本能地扼殺了他們最人性化的東西——思考的能力。 有人又會說，這就像騎自行車：你不會忘記它。 然而，我們有太多的研究直接表明大腦在缺乏刺激的情況下會“變得懶惰”並且實際上會在較小程度上使用其資源。

只有 Steve Krug——許多數字工具創造者的大師——在 2000 年出版了他的書。在線銀行業務剛剛起步，Allegro 通過郵政匯票支付。 在第一、第二（2006）和第三（2014）版本中，它基於相同的假設：即使我們在使用數字工具時有時會犯錯誤，我們最多也得按一下“後退”按鈕。 不幸的是，我們的生活已經數字化到這樣的程度——我們在網上工作、治療和購物——無意自動化的後果可能要嚴重得多。

我們共享我們的數據，甚至不知道它們被使用什麼以及被誰使用，並且越來越多的敏感數據（例如健康數據）被下載和保存。 收集有關我們的脈搏、血糖水平、睡眠質量、所走步數等數據的應用程序並不僅僅對我們可見。 此外，我們在 COVID-19 大流行期間觀察到的遠程醫療或其他數字健康工具的發展將意味著我們將保存和傳輸越來越多的數據。 我們可能會通過使用越來越好的數字解決方案來照顧我們的健康、身心舒適。

如果我們使用一個其創建者和管理員對安全方面給予最大關注的應用程序，我們是否會重蹈“監管者”不那麼可靠的其他軟件的覆轍？ 或者，也許相信“有人”在那裡照顧我們的安全會讓我們容易上當受騙，更不用說天真了？

在短短的幾分鐘內，您可以在互聯網上找到許多“自動駕駛”操作導致您厄運的真實故事。 只需要一條與銀行發送的短信極其相似的短信，電子郵件和個人或企業賬戶就可以被抹去。 它只發生在別人身上嗎？ 這幾乎可能發生在我們所有人身上，因為在 2022 年，有超過 320 起案件被報告給國家計​​算機安全事件響應小組 (CERT Polska)。 網絡安全威脅案件。 這比前一年增加了 180% 以上。

隨著新質量人工智能的傳播，我們正處於一場革命的邊緣。 我們已經有了微軟的 Bing 瀏覽器配備的 ChatGPT。 谷歌很快將利用其正在開發的 Bard AI 技術反擊這場軍備競賽。 更多的第三方工具似乎也只是時間問題。 了解技術將使我們走得更遠。 與此同時，越來越複雜和廣泛的網絡犯罪在人工智能的支持下，正等著被誤解、自動化和不知情。

第一個警告已經來自歐洲刑警組織等歐盟機構。 “歐洲警方”警告稱，聊天機器人可能被濫用於網絡釣魚、虛假信息和網絡犯罪企圖。 另一方面，意大利官員對涉嫌違反使用人工智能的應用程序收集數據的規則展開調查。

詐騙“孫子”或“警察”就更容易了。 編寫一個機器人會以一種他們不知道對方沒有人的方式呼叫和交談的機器人並不困難。 與深度造假類似，即使用 AI 創建的圖像或視頻。 錄製一部我們認識的保險代理人與我們續約、索取數據或轉讓的電影需要一些工作，但使用人工智能肯定會減少此類活動的成本和所需時間，從而增加這種攻擊的“盈利能力”。

這樣的客戶真的會原諒他信任多年但現在沒有保護自己免受此類攻擊的品牌，例如沒有採取適當的教育措施嗎？

因此，我們應該改變創建數字服務的方式以及品牌與客戶溝通的方式。 是時候提出一個新想法了：讓我明白。 它是一種設計方式，使用戶能夠盡可能地“學習”——這可以被翻譯為接收者學習系統的難易程度。 與外觀相反，這並不涉及使界面複雜化。 簡單地說，在適當但同時具有潛在危險和風險的屏幕上，“觸發器”應該出現在屏幕上，即以嘲諷形式出現的消息會引起用戶的注意。 他們會讓他思考他現在正在做的事情，並有意識地邁出這一步。 設計應側重於創建注意力的上下文“強化物”，但也應側重於獲取知識的直接可能性。

實踐中如何解決？ 甚至通過使用智能聊天機器人的功能。 例如，在線簽署租賃合同時，我們可以就我們不理解的文件條款詢問此類聊天。 他會回答我們並確保我們已獲得必要的知識，並且在發生投訴時會記錄整個對話。 客戶知道的更多，因為，例如，已經向他指明了合同的確切要點，他不必瀏覽整個文件。 同時，我們節省了他們的時間，還通過表明我們沒有什麼可隱瞞來建立信任，我們控制所使用的 AI，使其成為一個有用的工具。

我們要走這條路嗎？ 使用當前 AI 工具的第一印象可能會引起懷疑。 ChatGPT 和其他此類程序會生成不准確的答案，儘管在接下來的幾個月中它們可能會越來越少，但人們總是可以提出會混淆算法的問題。 然後一台幾乎不會說“我不知道”的機器會給出答案。 此外，人們擔心人們可能過於信任“智能”軟件。

根據微軟的說法，人工智能有時會出錯是件好事。 在關於 Copilot 新功能的在線演示中，該功能將在 i.a 中構建。 在辦公套件中，公司管理層提到該軟件傾向於生成不准確的答案。 但是，它呈現為可能有用的東西。 據該公司稱，只要人們意識到助理的回答可能被歪曲，他們就可以對不准確的地方進行編輯。 花在修改上的時間會比從第一句開始自己寫文本要少。 因此，ChatGPT 將允許您更快地發送電子郵件或完成演示幻燈片。

然而，從用戶的角度來看，這並不是一個理想的解決方案。 走捷徑，盲目地使用 AI 提示，會讓我們不止一次地犯錯誤。 小事失誤事半功倍，但我們將生活中越來越嚴肅的方面委託給人工智能。 技術是容易出錯的理解應該比“損壞後的明智的一極”這句話更早地出現。 在這種情況下，損失可能會非常昂貴。

他為公司和機構制定戰略方向提供建議。 在工作中，他將人文學科的成就與最新技術的知識結合起來。 由於這種組合，它有助於提前應對變化並選擇更安全的長期發展方向。 他專注於 Phygital 領域——物理元素、人際交往和數字解決方案的漸進式相互滲透。 它還提倡一種基於客戶行為度量和業務指標制定戰略和項目決策的方法。 他在 Symetria 代理機構工作了 11 年，期間曾為最大的波蘭和國際品牌工作：BLIK、Mastercard、CANAL+、ING、Orange、Allegro 和 Lidl。