最近，芬蘭赫爾辛基市和荷蘭阿姆斯特丹市推出了在線人工智能登記系統(tǒng)，讓人們可以一窺市政管理所用算法和機(jī)器學(xué)習(xí)系統(tǒng)的工作原理。

這一聯(lián)合聲明是在與下一代互聯(lián)網(wǎng)峰會(huì)(Next Generation Internet Summit)一起發(fā)布的，代表了促進(jìn)算法透明度的努力，這是計(jì)算機(jī)科學(xué)家和倡導(dǎo)組織近年來優(yōu)先考慮的問題，以確保人們能夠理解計(jì)算機(jī)代碼是如何做出影響他們生活的決定的。

赫爾辛基人工智能注冊(cè)中心和阿姆斯特丹算法注冊(cè)中心是由芬蘭人工智能透明事業(yè)部（AI transparency biz Saidot）開發(fā)的網(wǎng)站，提供有關(guān)這兩個(gè)城市的具體技術(shù)系統(tǒng)工作方式的細(xì)節(jié)。

例如，阿姆斯特丹算法寄存器有一節(jié)是關(guān)于停車控制的，它解釋了城市是如何使用配備了車牌掃描儀的巡邏車，這些車依靠圖像識(shí)別算法來讀取車牌。

算法登記處解釋說：“車牌號(hào)被發(fā)送到國(guó)家停車登記處，檢查汽車是否有權(quán)停車。如果發(fā)現(xiàn)有人沒有支付停車費(fèi)，檢查員將根據(jù)環(huán)境照片評(píng)估是否有特殊情況如裝卸貨，或是汽車正在等待紅綠燈?！?/p>

而當(dāng)系統(tǒng)無法自動(dòng)確定時(shí)，停車檢查員將在現(xiàn)場(chǎng)做出決定，如果沒有意外的情況，則將發(fā)出罰單。

該站點(diǎn)概述了所涉及的數(shù)據(jù)，如何處理數(shù)據(jù)，算法如何避免歧視，人工監(jiān)督如何發(fā)揮作用以及風(fēng)險(xiǎn)和保障措施。

這些摘要有時(shí)包含對(duì)特定技術(shù)資源的引用，例如國(guó)家Parkeer登記簿（國(guó)家停車登記簿）的接口說明文件。該特定文件涉及車牌掃描系統(tǒng)體系結(jié)構(gòu)，用于在系統(tǒng)用戶和后端數(shù)據(jù)庫之間傳遞的消息的XML代碼以及應(yīng)用程序邏輯的摘要。它本質(zhì)上是一個(gè)設(shè)計(jì)文件。它不包括源代碼，但是應(yīng)該允許人們花點(diǎn)功夫就可以了解系統(tǒng)的工作方式。

阿姆斯特丹副市長(zhǎng)Touria Meliani在一份聲明中說：“算法在我們的生活中扮演著越來越重要的角色。我們與赫爾辛基市一起，致力于盡可能多地了解算法，并對(duì)我們（作為城市）使用算法的方式保持透明?！?/p>

隨著人工智能在城市服務(wù)中的應(yīng)用越來越普遍，赫爾辛基城市的數(shù)據(jù)，人工智能和機(jī)器人化項(xiàng)目實(shí)體的項(xiàng)目經(jīng)理Pasi Rautio認(rèn)為，像這些AI注冊(cè)之類的舉措對(duì)于建立對(duì)政府系統(tǒng)的信任是必要的。

無黨派皮尤互聯(lián)網(wǎng)研究中心（Pew Internet Research Center）2017年發(fā)布的一份報(bào)告《代碼依賴：算法時(shí)代的利弊》（Code Dependent:Prosand Constructions of the Algorithm Age）認(rèn)為，不僅算法透明性很重要，而且還應(yīng)伴隨著算法素養(yǎng)和監(jiān)督。

麻省理工學(xué)院教學(xué)系統(tǒng)實(shí)驗(yàn)室執(zhí)行總監(jiān)賈斯汀·賴希（Justin Reich）在為皮尤（Pew）報(bào)告提交的評(píng)論中說：“算法在我們社會(huì)中不斷發(fā)展的影響將需要新的監(jiān)督形式和模式。其中一些項(xiàng)目需要在計(jì)算機(jī)科學(xué)培訓(xùn)項(xiàng)目中增加倫理培訓(xùn)，以幫助新程序員更好地理解他們?cè)谝粋€(gè)多元化的社會(huì)中所做決定的后果。我們還需要新的形式的代碼審查和監(jiān)督，以尊重公司的商業(yè)機(jī)密，但不允許公司以保密為借口來逃避各種形式的公眾監(jiān)督。”

正如計(jì)算機(jī)科學(xué)家蒂芬·沃爾夫拉姆（Stephen Wolfram）去年寫道：如果無法確保AI透明性，那么監(jiān)督元素就變得更加重要。