首頁 > 專欄

【專欄】漫談“貸款歧視”

新金融洛書 · 零壹財經 2022-04-01 14:22:21 閱讀:25964

關鍵詞:互聯網信貸大數據風控算法歧視金融科技黑箱

作者:新金融洛書? ?來源:零壹財經作者專欄 01 這兩天,雷慢偶然看到一篇文章,某大型互聯網信貸平臺聲稱,他們家風控系統納入了5000多個變量,來對貸款人進行信用評估。對風控系統如何工作,這家平臺舉了一些例子,比如: “一個用戶打開App,注冊時輸入身份證號碼的時間...

作者:新金融洛書   來源:零壹財經作者專欄

01

這兩天,雷慢偶然看到一篇文章,某大型互聯網信貸平臺聲稱,他們家風控系統納入了5000多個變量,來對貸款人進行信用評估。對風控系統如何工作,這家平臺舉了一些例子,比如:

“一個用戶打開App,注冊時輸入身份證號碼的時間是個變量,輸入自己的號碼和輸入別人的是不一樣的,如果輸入時間特別長,還要修改,有80%可能不是自己的身份證號碼。”

“一個客戶買手機,明明有優惠券,他就是不用,再加上一些其他相對應的行為,檢測出來后就要嚴格審核,正??蛻粲袃灮萑蜁?,只有騙子才不會用,因為反正也不想還。優惠券只是一個單獨的變量,幾個相同行為疊加時,風險就會慢慢加大。”

這兩個例子,都有很大的邏輯漏洞。

和所謂風控變量類似,一個人注冊時間的長短,所受影響的變量也很多,他可能是一個老人行動遲緩;他可能注冊時中途做了別的事;他可能一邊扣腳一邊注冊。

有優惠券不用,就判定為騙子,也是一個巨大的邏輯錯誤。比如筆者,就不常用優惠券,并非不喜歡省錢,而是不常用購物App,平時沒有注意優惠券的領取、使用,并且一般時候根本不會意識到優惠券的省錢問題。同樣,一個人不使用優惠券,也有幾千個變量,他可能是反感優惠券,反感的變量有幾千個;他可能是一個電商新手,不知優惠券為何物。

最重要的是,注冊時間長、不使用優惠券,不必然得出“不是自己身份證、是騙子”的結論。騙子也不必然不使用優惠券。

A是B的非必要不充分條件。

即使像這家平臺所說,這些變量只是其中的1/5000,但只要這些變量得出的是一個確定性判定,比如以80%的比率判定這個人所使用的不是自己身份證、100%判定這個人是騙子。那么,諸多的邏輯錯誤,就會影響整個信貸評估的準確性,也會影響貸款的價格。

然而,機器學習的算法,并不管這些邏輯是否存在漏洞,它們只執行人的代碼指令,按照人錯誤的邏輯指令運算,在一通“技術黑箱”運算后,得出一個貸款的利率價格。

這就是算法的歧視價格。

02

2011年4月的一天,在全球最大的電商網站亞馬遜上,突然出現了一本標價2369萬美元的紙質書,這本書名為《蒼蠅的成長》,由一個名為彼得·勞倫斯(Peter Lawrence)的博士撰寫。

想購買這本書的一位生物學家找到了亞馬遜。亞馬遜調查后發現,原來是一家第三方賣家使用了電腦算法程序,自動根據市場供需關系調整了售價,而一周前這本書的標價還是170萬美元。

在這里,算法程序并不會估算市場合理的價格,而是根據需求大于供給無限放大追求利潤的價格。它像極了那些囤積居奇的貪婪商人。

被問及Google公司如何進行私下操作時,前首席執行官埃里克·施密特(Eric Schmidt)曾經回答:“Google的政策就是和警戒線打擦邊球。”

過去幾十年,美國民間與政府的博弈過程中,進步人士曾試圖要求一些大公司公布其人工智能決策的邏輯與原理,最后都被后者以“商業保密”借口駁回。

在人工智能決策的黑箱里,這些過程最后變得無可奉告。

在金融領域,人為的“邏輯操縱”,讓技術黑箱變得可怕。

法學教授弗蘭克·帕特洛伊(Frank Partnoy)和普利策獎獲得者杰西·艾辛格(Jesse Eisinger)曾于2013年年初共同研究過“美國銀行的內幕”,他們在報告中把銀行描述為“掩蓋了巨大風險的‘黑箱’,這些風險可能會再次擊垮經濟”。

“現在沒有哪家大型金融機構的財務報表能夠提供有價值的風險信息。”在報告中,一位對沖基金經理人如是說。

金融科技化之后,越來越多的黑箱產生,并未使得金融科技更加透明。

黑箱的種子與土壤到處都是,如黑產軍團、數據倒賣行為、大數據信審、人工智能深度學習、機器決策…

金融科技黑箱使得監管越來越難。

過去十幾年里,P2P網貸和互聯網信貸的經營者往往津津樂道地拿出他們的大數據風控系統吹噓一番。

一家借貸平臺在他的大數據風控的系統中輸入一個人用戶數以千計的社交數據、搜索數據、瀏覽數據、交易數據等,經過深度學習和決策模型的計算,最終可能將一個人的信用定為不及格,但這其中的具體決策過程是什么,企業不會告知你。

更甚至于,這個決策過程中出現程序錯誤、算法歧視時,電腦試圖向程序員解釋時,程序員也無法明白。

哥倫比亞大學的機器人學家 Hod Lipson曾說:“這就像是向一條狗解釋莎士比亞是誰。”

這意味著,大的互聯網信貸平臺津津樂道的精準營銷獲客與大數據風控定價,都在制造一個個黑箱。

03

互聯網信貸、大數據風控都有黑箱化的現象。

《從業經歷和教育背景是否能提高借貸成功率?——來自P2P平臺的經驗證據》一文證實了學歷在P2P借貸中的正相關因素,它指出,教育程度在1%的顯著水平上與借貸成功率呈正相關關系。此外,性別、領域對借款能否成功產生影響。

中國央行研究局局長徐忠曾表示,如果將客戶個人信息用于信用評估時,可能影響信貸的公平性,有一些指標比如性別、地域、職業等可能對客戶的還款能力有解釋力,但根據這些指標進行放貸,會涉及到對某些人群的歧視。

但在人工智能的決策黑箱里,這些都看不見。

在人工智能的深度學習與決策黑箱里,有一個現象值得說明,比如互聯網信貸,人工智能深度學習后的決策系統對有過違約記錄的用戶往往收取更高的利息,在這一過程中,違約者曾經未能及時還款的原因卻是未知的,可能他拒絕支付,也可能是因為家里出了緊急事故,但人工智能決策的歧視性已經出來。

在現金貸平臺那里,大數據信審的黑箱歧視性給予借款人過高的利率定價,往往容易導致借款人違約,而違約后的歧視性利率定價,可能再次導致借款人違約,造成惡性循環。

一旦基于人工智能決策對身背污點者的歧視性信審體系成型,就會演變成進行壓迫的工具,而受壓迫者卻絲毫沒有還擊之力。

黑箱金融造成的一個后果是,互聯網理財資產負債表會越來越不透明并復雜化,要維系這個黑箱金融持續下去,就要犧牲擁有現實資金的投資者。

過去幾年里,死于、受害于P2P網貸資金池、其他互聯網理財的平臺和投資人就是這個例子。

面對黑箱, 即使機構告訴用戶信息收集者會如何使用這些數據,只要他們同意,隱私也不一定能得到保護。

帕斯奎爾在《黑箱社會:控制金錢和信息的法則》里的大體主張是:放棄知情同意這種形式上的做法,去嚴格監管實際使用這些數據的企業和政府機構。

2018年,歐盟發布GDPR,它了不起的地方在于它確立了一個原則:即無視利益集團、犧牲科技革新的速度,將科技進步控制在可理解的天花板里,而非放任在失控的黑箱中。

GDPR強化對自然人數據的保護,它將個人敏感數據排除在人工智能的自動化決定之外。

一百年前,路易斯·布蘭戴斯(Louis Brandeis)曾經發表言論“陽光是最好的殺毒劑”。

盡管來自美國的批評聲音認為,GDPR對歐洲人工智能的開發和使用產生負面影響,帶來高昂的創新和生產成本,并將使歐盟企業與北美和亞洲等競爭對手相比處于劣勢地位,且對保護消費者沒有多大作用。

令人恐懼的是,在人工智能+大數據時代,“知情”具有破解“黑箱”的優勢,但“保密”卻有相對“知情”更大的優勢。

“商業保密”成為企業維持黑箱決策的借口。

在金融黑箱的失控下,對算法的監管必將抬上桌面,厘清算法的邏輯、科技的倫理,打擊基于數據和算法閉環所塑造的貸款權威,都將是一個不得不面對的問題。

因為正在為金融黑箱埋單的,就是你我。
 
報告案例征集令!

數字經濟大潮之下,數字科技創業和投融資活動風起云涌。《數字科技投融資全景報告2022——哪些賽道和公司C位出道?》將通過詳實數據,挖掘出數字科技領域的投融資主流賽道和趨勢,人工智能、元宇宙、隱私計算、數據安全……哪些領域和機構將是數字科技投融資賽道的C位?

經過一年爆炸式的發展,元宇宙的發展已經進入一個新的歷史階段。接下來,元宇宙不僅需要相關技術的逐步突破,也需要在應用場景上的全方位探索。《元宇宙場景應用探索報告》將梳理元宇宙在旅游、金融、社交、虛擬IP等場景下的典型應用,呈現元宇宙的真實探索圖景。

兩大報告將在“2022第一屆中國數字科技投融資峰會”上重磅亮相。目前,報告正在緊張撰寫中,詳細提綱與研究內容可咨詢【零壹智庫工作人員13261990570(微信同號)】。

相關文章


用戶評論

游客

自律公約

所有評論


資訊排行

  • 48h
  • 7天


專題推薦

more

2021第三屆數字信用與風控年會(共42篇)

2021第三屆中國零售金融發展峰會(共39篇)

2020數字科技年會暨零壹財經新金融年會(共20篇)

2019年數字信用與風控年會(共15篇)



耗時 194ms
日本丰满熟妇乱子伦-免费国产黄网站在线观看可以下载-熟女乱2 伦
<蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <文本链> <文本链> <文本链> <文本链> <文本链> <文本链>