算法是機(jī)器用于執(zhí)行數(shù)學(xué)運(yùn)算的一系列精確的分步指令。使用支持算法的系統(tǒng)和設(shè)備將為職業(yè)安全和健康帶來許多好處，但與許多新技術(shù)一樣，工人也存在風(fēng)險(xiǎn)?！睹绹I(yè)醫(yī)學(xué)雜志》的一篇新評(píng)論重點(diǎn)關(guān)注工人管理系統(tǒng)、先進(jìn)傳感器技術(shù)和機(jī)器人設(shè)備使用中存在的工人風(fēng)險(xiǎn)的新來源。確定算法是否適合工作場所使用，對制造商、程序員、雇主、工人以及職業(yè)安全和健康從業(yè)者來說正迅速成為一項(xiàng)挑戰(zhàn)。為了實(shí)現(xiàn)支持算法的系統(tǒng)和設(shè)備在未來工作中承諾的好處，我們必須研究如何有效地管理它們的風(fēng)險(xiǎn)。評(píng)論中的要點(diǎn)在下面突出顯示。文章中提供了深入的討論。
作者：John Howard，醫(yī)學(xué)博士
機(jī)器學(xué)習(xí)算法正在為多個(gè)行業(yè)部門的各種職業(yè)安全和健康應(yīng)用提供動(dòng)力。算法應(yīng)用存在于制造業(yè)、建筑、農(nóng)業(yè)、采掘采礦、零售業(yè)、和公共治理中。由支持算法的系統(tǒng)和設(shè)備驅(qū)動(dòng)的數(shù)據(jù)驅(qū)動(dòng)的洞察力可以概念化為職業(yè)安全和健康的未來工作工具，有朝一日可能會(huì)告訴你發(fā)生了什么（描述性系統(tǒng)）和為什么會(huì)發(fā)生（診斷系統(tǒng)）；預(yù)測會(huì)發(fā)生什么（預(yù)測系統(tǒng)）；支持基于當(dāng)前和未來?xiàng)l件的決策（規(guī)范性系統(tǒng)）；并采取物理行動(dòng)（半自主和自主系統(tǒng)）。
應(yīng)該通過充分意識(shí)到和理解算法的風(fēng)險(xiǎn)狀況來緩和將算法集成到工作場所設(shè)備、流程、條件和人力管理系統(tǒng)中的預(yù)期好處。了解支持算法的工作場所系統(tǒng)的風(fēng)險(xiǎn)和益處應(yīng)該基于全面的風(fēng)險(xiǎn)評(píng)估。支持算法的系統(tǒng)構(gòu)成的風(fēng)險(xiǎn)通常來自三個(gè)領(lǐng)域：
專有算法的日益復(fù)雜，特別是可以在運(yùn)行過程中改變其決策邏輯的自學(xué)算法，這使得設(shè)計(jì)師、制造商和用戶難以在操作上了解算法的工作原理。缺乏算法透明度可能是評(píng)估和控制新的職業(yè)安全和健康風(fēng)險(xiǎn)的主要障礙。14隨著各種社會(huì)系統(tǒng)、和工人管理系統(tǒng)、先進(jìn)傳感器技術(shù)和機(jī)器人設(shè)備中的算法決策正在增加，注意力集中在如何實(shí)現(xiàn)更大的算法透明度上。
密切的身體監(jiān)督一直是雇主監(jiān)控工人的傳統(tǒng)方式。雇主現(xiàn)在可以通過視頻監(jiān)控來監(jiān)控工人；通過地理位置算法跟蹤工人的身體運(yùn)動(dòng)；監(jiān)控員工使用電子郵件、社交媒體和網(wǎng)頁瀏覽的情況；評(píng)估工人的生產(chǎn)力、參與程度、離開組織的傾向以及對工作場所安全行為的遵守情況。這些新的數(shù)據(jù)驅(qū)動(dòng)的人力資源管理方法被稱為“人員分析”，并被吹捧為幫助雇主做出更好的決策。
算法管理技術(shù)可以持續(xù)收集和存儲(chǔ)工人數(shù)據(jù)，可能沒有明確的目的或工人披露。在一些算法管理技術(shù)中，工人和決策者的觀察者都可以是非人類代理人。當(dāng)監(jiān)控沒有前瞻性地向工人披露時(shí)，支持算法的生產(chǎn)力和績效系統(tǒng)通常代表一種未經(jīng)工人同意的管理控制。當(dāng)算法被賦予工人工作的權(quán)力時(shí)，當(dāng)工人對算法收集哪些數(shù)據(jù)、如何使用數(shù)據(jù)以及出于什么目的沒有信息或了解時(shí)，工人會(huì)報(bào)告無能為力的感覺。這并不奇怪，因?yàn)樵谒惴ü芾硐拢と送ǔＥc他們的“數(shù)字主管”沒有有意義的互動(dòng)。這種算法管理可能與工人自主權(quán)的侵蝕、工作強(qiáng)化、心理社會(huì)壓力和工人福祉的下降有關(guān)。
算法管理在零工經(jīng)濟(jì)中尤為普遍，但數(shù)字監(jiān)控和管理技術(shù)在其他行業(yè)部門也可見。輪班分配算法、交付路線算法、倉庫工人移動(dòng)算法、連續(xù)性能算法和其他工作生產(chǎn)力算法不僅應(yīng)用于制造工人，也適用于服務(wù)工人、知識(shí)工作者、倉庫工人，甚至一線主管。
新的算法技術(shù)有可能通過影響雇主-員工的關(guān)系來顯著改變組織控制。算法管理系統(tǒng)的傳播將影響工作的未來，但可能會(huì)以意想不到的和不良方式這樣做。雖然在算法管理下，工人的私密性限制目前不確定，但在支持算法的系統(tǒng)中存在大量關(guān)于工人的信息會(huì)帶來潛在的安全風(fēng)險(xiǎn)。此外，用于自動(dòng)化組織管理系統(tǒng)的算法可能會(huì)產(chǎn)生歧視性結(jié)果，從而重現(xiàn)和加強(qiáng)社會(huì)的歷史年齡、種族和民族以及性別偏見等。
傳感器是技術(shù)管理工作的核心，因?yàn)樗鼈優(yōu)樗惴刂铺峁?shù)據(jù)輸入。先進(jìn)的傳感器技術(shù)正在商業(yè)化，并作為新的暴露科學(xué)工具進(jìn)入工作場所。使用小型化算法嵌入式微處理器的先進(jìn)傳感器技術(shù)，通過不斷感知危險(xiǎn)物質(zhì)的環(huán)境工作環(huán)境或工人接近已知危害，有可能大大加快職業(yè)暴露科學(xué)的進(jìn)步。然而，它們也可能引起工人對侵入性工人監(jiān)控、算法偏見和侵犯個(gè)人隱私的擔(dān)憂。
算法是所有機(jī)器人設(shè)備的關(guān)鍵組件。從人工智能架構(gòu)的角度來看，機(jī)器人設(shè)備可以是物理上的機(jī)器人或數(shù)字決策助理。機(jī)器人表現(xiàn)出三種主要功能：感知、計(jì)劃和行動(dòng)。算法涉及所有這些基本的機(jī)器人功能。與算法管理系統(tǒng)一樣，當(dāng)算法控制下的機(jī)器人系統(tǒng)導(dǎo)致人類工人的身體或認(rèn)知能力與工作需求不匹配時(shí)，可能會(huì)發(fā)生工作強(qiáng)化。當(dāng)機(jī)器人系統(tǒng)被設(shè)計(jì)為最大限度地提高生產(chǎn)力而不充分考慮對人類工人績效的影響時(shí)，它們的風(fēng)險(xiǎn)狀況就會(huì)增加。雖然將機(jī)器人集成到工作流程中承諾帶來許多生產(chǎn)力效益，但工人可能會(huì)因使用機(jī)器人而面臨工作密集和工作崗位轉(zhuǎn)移的風(fēng)險(xiǎn)。
引入支持算法的工作場所使用人工智能系統(tǒng)和設(shè)備的速度比開發(fā)特定于算法的風(fēng)險(xiǎn)評(píng)估和風(fēng)險(xiǎn)管理策略的速度更快。當(dāng)集成到工作場所系統(tǒng)時(shí)，算法可以呈現(xiàn)出獨(dú)特的風(fēng)險(xiǎn)分類，這些風(fēng)險(xiǎn)在組織的傳統(tǒng)職業(yè)安全和健康風(fēng)險(xiǎn)管理方法中可能無法解決。需要新的方法來檢測輸入數(shù)據(jù)中的偏差，在專有算法中找到設(shè)計(jì)錯(cuò)誤，并確保輸出決策在邏輯上是輸入數(shù)據(jù)的衍生物。侵入性監(jiān)控、算法偏見、自主權(quán)和隱私喪失、決策產(chǎn)出不準(zhǔn)確以及工作強(qiáng)化所產(chǎn)生的風(fēng)險(xiǎn)應(yīng)添加到現(xiàn)有風(fēng)險(xiǎn)評(píng)估和管理方法中。工人還應(yīng)該有自由度和方法來挑戰(zhàn)算法生成的決策。
在未來的工作中，算法將在職業(yè)安全和健康方面提供許多有益的應(yīng)用。雖然支持算法的系統(tǒng)和設(shè)備可能會(huì)減少人為錯(cuò)誤的來源，并增強(qiáng)工人的安全和健康，但算法也可能為工人福祉帶來新的風(fēng)險(xiǎn)來源。確定算法在工人管理系統(tǒng)、先進(jìn)傳感器技術(shù)、機(jī)器人設(shè)備和其他工作場所系統(tǒng)、工具和機(jī)械中是安全的，將挑戰(zhàn)算法設(shè)計(jì)師和軟件程序員、支持算法的設(shè)備制造商、雇主、工人以及職業(yè)安全和健康從業(yè)者的風(fēng)險(xiǎn)評(píng)估和管理能力。為了確保支持算法的系統(tǒng)和設(shè)備的好處在未來的工作中占據(jù)突出地位，現(xiàn)在是時(shí)候研究如何有效地管理其風(fēng)險(xiǎn)了。
