3月7日，總部位於加州三藩市的OpenAI機械人和硬件負責人凱特琳‧卡利諾夫斯基（Caitlin Kalinowski）因公司與五角大樓（Pentagon）達成的交易而提出辭職。她表示，在缺乏司法監督的情況下監視美國公民，以及在未經人類授權的情況下賦予人工智能致命自主權，這些做法「理應得到更充份的審慎考慮」。

在她離職之前，微軟（Microsoft）、Google和亞馬遜網絡服務（Amazon Web Services，簡稱AWS）等，作為各個企業和個人用戶訪問AI初創公司Anthropic（其總部同樣位於加州三藩市）開發的Claude平台的渠道，已各自向其用戶發布了措辭謹慎的法律聲明，稱五角大樓對Anthropic公司所作出的供應鏈風險認定僅適用於其聯邦合同，並不影響用戶通過其平台訪問非國防工作負載。

這個（供應鏈風險）認定——與之前用於華為（Huawei）和中共軍工承包商的認定相同——是首次被用於一家美國本土公司，其影響範圍遠遠超出Anthropic公司的聯邦合同範圍，威脅到該公司與各行各業的承包商、分包商和企業客戶的關係。為期六個月的過渡期將要求所有五角大樓承包商證明其在任何工作流程中均未使用Claude軟件。

而其中的導火線就是，Anthropic公司拒絕越過卡利諾夫斯基在辭職信中提到的那兩條底線。政府的回應是動用了其最強大的監管武器。幾天後，美軍在伊朗的軍事行動中使用了Claude軟件——在空襲期間進行情報評估和作戰模擬。

3月9日，Anthropic公司提起兩宗聯邦訴訟——一起在加利福尼亞州北區（Northern District of California），一起在哥倫比亞特區巡迴上訴法院（D.C. Circuit Court of Appeals）——以憲法和法律依據對該認定提出質疑。

正如最新的卡利諾夫斯基辭職聲明和各平台聲明所證實的那樣，這個事件尚未解決。

這場對峙最終引出了一個更廣泛的問題：企業良知對於一個健康的社會來說究竟是負擔還是必要的保障？

當「合法」不再是充份的答案

Anthropic公司與五角大樓之間的爭議並非在於政府要求的合法性。雙方並未違反任何法律。Anthropic公司劃定的兩條紅線並非法律上的結論，而是道德上的抉擇——每一條紅線的利害關係都值得明確闡述。

第一個問題涉及國內監控。用戶的位置記錄、購物記錄、瀏覽模式和社交關係都可以合法地從商業數據經紀商那裏購買。人工智能消除了收集這些訊息的最後一個實際限制：過去大規模監控全體人口所需的耗時、成本和人力。20世紀需要極權國家機器才能實現的功能——系統地監控每個公民的行蹤、交往和行為——如今只需一份合同和一個功能強大的模型即可完成。Anthropic公司的拒絕承認了一個簡單的現實：自由與其說取決於法律允許甚麼，不如說取決於國家有能力做甚麼。當這種能力在一夜之間增長一個數量級時，為早期技術時代所制定的法律框架將不再能可靠地守護它們原本想要保護的自由。

第二個問題涉及自主武器——無需人為決策即可識別並殺死人類目標的機器。這裏的反對意見並非程序上的。將奪取人命的決定權交給算法，就等於取消了歷史上限制致命武力使用的唯一約束：人類的判斷、人類的猶豫以及人類的責任。一名士兵開槍時，要對指揮鏈、法律框架以及最終的良知負責。而自主系統只對其訓練數據和目標函數負責。大規模部署此類系統，不僅會改變戰爭的進行方式，還會改變戰爭爆發的門檻——以及在有人承擔責任之前暴力可以蔓延的規模。Anthropic公司的立場就是，無論合法性如何，構建這種能力都越過了任何商業考慮都無法辯解的底線。

而五角大樓的立場就是，合法就是合法。而法律允許的範圍與允許行為所帶來的後果之間的差異，正是Anthropic公司拒絕通過合同來解決的問題。

關係的破裂

這場對峙並非始於3月。1月3日，美軍在委內瑞拉拘捕獨裁者馬杜羅（Nicolás Maduro）的行動中就使用了Claude——該系統是通過Anthropic公司與帕蘭泰爾科技公司（Palantir Technologies）的合作夥伴關係，部署在五角大樓的機密網絡中的。

當有報道指出Claude曾被用於委內瑞拉行動後，針對該部署過程的調查引發了消息人士所稱的Anthropic與五角大樓關係的破裂。一位高級政府官員告訴總部位於維珍尼亞州的Axios新聞網，五角大樓將重新評估雙方的合作關係：「任何可能危及我們一線作戰人員行動成功的公司，我們都需要重新評估。」

Anthropic公司並未發現委內瑞拉部署行動存在任何違反政策的行為。在五角大樓的回應中，提出問題的行為本身——無論是由誰提出——反而成了問題所在。

幾周後對伊朗發動的空襲中，軍方再次使用了Claude產品。這款政府無法通過合同採購的產品，卻依然是不可或缺的。

大多數企業選擇的行事之道

OpenAI對同樣情況的回應頗具啟發性——不是因為它見利忘義，而是因為這恰恰說明了大多數機構如何應對商業生存和道德約束之間的矛盾中尋求平衡。

在Anthropic被列入制裁名單數小時後，OpenAI便宣布與五角大樓達成協議。OpenAI公司行政總裁薩姆‧奧爾特曼（Sam Altman）曾表示，他的公司堅持同樣的底線。然而，僅僅一周後，這些底線就發生了變化。奧特曼承認，這項協議「確實倉促」，而且「看起來投機又草率」。OpenAI隨後重新談判，增加了原協議中沒有的禁止國內監控的規定。

隨後，在摩根士丹利科技大會（Morgan Stanley Technology Conference）上，奧特曼的立場更加鮮明。他主張，企業放棄對民主進程的承諾「對社會有害」，並總結道：「政府的權力理應大於私營企業。」在場的機構投資者們似乎並未明顯對此表示異議。

這種說法並非毫無道理。民主政府的權力的確來源於人民，從這種形式意義上來說，其地位確實高於私營實體。但奧特曼所說的這個原則並未包含任何限制條件——它沒有解釋當政府犯錯、被利益集團操控，或超越公民意願行事時，該如何應對。

合規（compliance，遵法性），雖被塑造成公民美德，實則可能是一種披著公民美德外衣的商業策略。

Google曾以「不作惡」（don’t be evil）這三個字作為構建其企業文化的準則。而這條準則最終從其行為準則中被移除——並非通過公開宣布的政策變更，而是悄然修改。Google沒有給出任何解釋。這個移除主要是在事後才被人們注意到。

對任何大型企業而言，最安逸的做法就是將良知責任外判給國家，自己則一心專注於合規。這是一種一貫沿用的策略。從歷史上看，國家權力的邊界往往也是這樣擴張的——並非僅僅依靠政府的決策，而是依靠服務於政府的各個機構的決策累積而成。

然而，良知（conscience）在自由社會中歷來扮演著另一個角色：當法律尚未跟上技術所帶來的力量時，良知往往是第一道防線。

市場記錄了一切

市場的反應表明，企業良知並非總能帶來商業上的懲罰。

2月28日，Claude在蘋果App Store（Apple App Store）榮登榜首；3月3日，又在Google應用商店（Google Play）登頂。自1月以來，免費用戶增長超過60%。自去年11月以來，每日註冊用戶數增長了兩倍。在Claude登頂後的那個周六，ChatGPT的卸載量激增295%。由於訪問量過大，Claude的伺服器一度崩潰。

機構層面的反應同樣耐人尋味。三大雲瑞平台獨立審查了相關認定條款，並得出相同的法律結論：供應鏈風險認定不適用於其企業客戶。一項歷來針對外國敵對勢力的監管工具，如今卻被用來對付一家國內公司——而這間公司賴以生存的基礎設施卻拒絕將它視為外國敵對勢力。

關於如何信任政府的慣例做法

美國的憲政傳統提供的諸多保護措施，使得當前的情況與政府行使不受制約的監管權力時的情況截然不同。這些區別至關重要——而且它們值得捍衛，正是因為並非所有社會都擁有這些權利，所以它們不容失去。

2020年10月，中國互聯網巨頭阿里巴巴（Alibaba）創辦人馬雲在一個上海金融會議上發表演講，批評北京金融監管機構的保守立場。幾天後，中共監管機構取消了螞蟻集團（Ant Group）——馬雲旗下的金融科技子公司——的首次公開招股（Initial Public Offerings，簡稱IPO）。這筆原本有望成為全球規模最大的IPO，估值高達370億美元，卻在毫無預警的情況下被叫停。阿里巴巴隨後被處以27.5億美元的反壟斷罰款。在接下來的幾年裏，阿里巴巴的市值蒸發了數千億美元。這背後的機制是監管機構的運作，而導火線就是馬雲的一次演講。

與北京不同，美國的體系旨在自我糾正。美國法院保持獨立，該認定一直存在爭議，公眾和雲瑞平台有權拒絕合作。

1887年，英國近代自由主義大師阿克頓勳爵（Lord Acton，1824—1902年）在寫給克雷頓主教（Bishop Creighton）的一封信中談到了問題的根源：「權力導致腐敗，絕對的權力導致絕對的腐敗。」

阿克頓的觀點看似簡單卻意義深遠：只有當掌權者被要求遵守與其他人相同的道德準則時，制度才能保持健康。

其實際意義並非在於政府心懷惡意，而在於不應給予政府那種善意推定——正如阿克頓所指出的，歷史學家們曾錯誤地將這種推定賦予教宗與君王。美國的憲政傳統在結構上內化了這種懷疑主義——體現在三權分立（separation of powers）、《權利法案》（Bill of Rights）和司法體系獨立（independent judiciary）之中。

在一個將良知完全外判給國家的社會，沒有任何私人機構能夠說「不」，也無需為此付出任何可以承受的代價。這種社會並不會因為簡化了流程安排而變得更為強大，反而會變得更加脆弱。

奧特曼說的沒錯，政府通常比私營公司更有權力。但是這種認識並不能解決政府在與這些公司打交道時是否也應該成為良知的唯一守護者的問題。對於這個問題，美國傳統一直存在不同的答案。

為我們所有人堅守底線

Anthropic公司所做的，就是持有一種有利於公眾的立場，而公眾本身卻沒有直接持有這種立場的途徑。

從這個意義上講，該公司不僅為自己堅守底線，也為其它可能有一天面臨同樣要求的企業、機構和個人堅守底線，因為他們能否說「不」取決於這種拒絕是否還能繼續存在下去。

當然，五角大樓試圖構建的監控構架，不會因為一次拒絕而消失。但是Anthropic公司的決定帶來的卻是更為樸素，或許也更為重要的東西：一份公開記錄。

界限被劃定，理由被列出，代價已承擔。而其他人——一位辭職的高管、抗議的工程師們、數百萬用戶等——則表明，良知很少孤軍奮戰。

而更宏觀的原則或許更簡單：一個健康的社會，仰賴於個人、企業與機構在良知召喚時，有能力堅守自己的底線。

作者簡介：

黎麗（Li Li），特許金融分析師（CFA）、註冊投資規劃師（CIPM）、註冊理財規劃師（CFP®），是紐約大學金融規劃碩士項目的兼職教授，同時也是森林山金融集團（Forest Hill Financial Group）的財富管理顧問。她曾在羅格斯大學（Rutgers University）和加州大學聖地牙哥分校（University of California–San Diego）學習經濟學，並在佩斯大學（Pace University）教授經濟學，此前曾擔任AT&T的策略師和分析師。聯繫方式：li.li@nyu.edu。

原文：Who Holds the Line?刊登於英文《大紀元時報》。

本文僅代表作者本人觀點，並不一定反映《大紀元時報》立場。#

-------------------
局勢持續演變
與您見證世界格局重塑
-------------------

🔔下載大紀元App 接收即時新聞通知：
🍎iOS：https://bit.ly/epochhkios
🤖Android：https://bit.ly/epochhkand

📰周末版實體報銷售點👇🏻
http://epochtimeshk.org/stores