今天重點: {演算法}創建的[數據結果]可能不是真相:[英國郵局]的悲慘案例研究
(The tragic case of the British Post Office – Data Analysis as a Consequence of Inaccurate Programming)
• 我在過去幾週沒有寫作每日的分享。因為正在閱讀最近英國郵局真實事件的案例。 直到現在,公眾才被迫面對許多誠實的郵局工作人員的悲慘後果,有些因被錯誤地指控偷竊郵局錢財而自殺 ; 或者被英國政府指控在郵局工作期間偷錢,家庭破裂。 我在讀案例的時候都哭了。悲慘感人。
• 最近每當有人說數據會引導我們做決策時。我會說:檢查公式的邏輯,公程式的設計。 否則,產生的數據可能會毀掉您的業務。 請軟體創建者解釋一下他們的邏輯,他們的設計:我們絕不能容忍被貼上「不懂軟體」的標籤,讓他們把我們引向盲目的道路。
• 我是資料數據研究學者。 當然,我喜歡數據。 但如果公式的邏輯表述錯誤,那麼研究和數據的結果可能不正確,我們假設就是事實; 這祗是錯誤的分析和結果。
[英國郵局] 的悲慘案例
摘要:
英國郵政局案例是一系列誤判事件,
• 從1999 年到2015 年,超過900 名副郵政局長因其分支機構的會計數據不正確短缺而被起訴,罪名是盜竊、虛假會計和欺詐,而這些短缺、實際上是由於郵政局錯誤Horizon 會計軟體造成的。Horizon會計系統,是由日本富士通公司(Fujtsu) 旗下的ICL Pathway所開發。
• 英國工黨於 1997 年上台,郵政局和軟體公司雙方之間的工作關係「功能失調」。政府曾考慮取消,但日本富士通往英國政府施壓,要求其批准 IT 系統。
• 到 1998 年,計劃晚了兩年,成本增加,有人擔心[磁力卡]即將過時。
• Horizon 系統在 300 個郵局推廣時。至少有兩名使用該系統的副郵政局長被指控欺詐,但有關會計問題是由於“系統故障”的抗議卻被忽視。
• 1999 年,郵局開始在全國範圍內推廣 Horizon,到 2000 年 8 月,分支機構已達到 10,000 個,到 2001 年,分支機構已超過 13,000 個。到 2013 年,Horizon 已被至少 11,500 個分郵局支機構使用,每天處理約 600 萬筆交易。
• 安裝成本超過 10 億英鎊,最終影響了英國 18,000 個郵局。
• 在此期間,越來越多的郵局局長被指控犯有偷錢罪。他們被關進監獄。 失去自己的積蓄和房屋。
軟體問題
• 分郵局局長是個體經營者,根據與郵局的合約,經營郵局分支機構,
• 在 Horizon 系統安裝後幾週內,他們開始透過分郵局局長使用的求助熱線向郵局報告平衡錯誤。 郵局否認了副郵政局長關於系統故障的報告,堅持要求副郵政局長彌補資金缺口,並且在許多情況下,不實地否認任何其他副郵政局長報告了軟體問題。
• 2001 年有 41 名副政局郵長被起訴,2002 年有 64 名副局長被起訴。
• 2002 年 5 月,Baljit Sethi 在他的妻子 Anjana 的副郵政局長合約將被終止後,向媒體提出了關於 Horizon 中存在錯誤的擔憂。郵局回應稱,「完全駁斥」系統有故障,並稱已「派專家…檢查兩次」。
• 今年是2024年:因為一個電視節目,迫使觀眾和最終郵局面臨錯誤的指控。
英國郵政局醜聞是一系列誤判,從 1999 年到 2015 年,超過 900 名副郵政局長因其分支機構的短缺而被起訴,而這些短缺實際上是由於郵局的軟體錯誤造成的。
真正的悲劇不僅是被錯誤指控,而且一旦被郵局起訴被刑事定罪,被定罪的副郵局局長獲得[犯罪收益法]命令,從而允許郵政局扣押他們的資產。根據媒體報道,這些行為導致數十人失業、破產、離婚、無理監禁和至少四人自殺。
因為案件很多,現還在繼續撤銷案件無罪。
其中一份法律文件我讀過: 內容描述:英國郵政局以及所有關聯不法行為包括:(1) 法律立法失敗: (2) 法院/司法失敗; (3) 郵局的謊言/機會主義; (4) 郵局公司治理失敗。我們學到的教訓是確保任何軟體程式都經過邏輯檢查; 不要忽視任何問題; 不要認為他們總是對的; 或許當我們談論人工智慧時,我們需要知道邏輯和後果,包括意想不到的後果,我會在日常寫作中花很多時間在人工智能。 希望我們永遠不會成為人工智能的奴隸。 我們應該成為科技的主人,而不是科技的奴隸。(www.askagatha.com)