對於大型科技平臺來說，在流感大流行的最初幾個月裡出現的一個更緊迫的問題是，強制關閉辦公室將如何改變他們對內容節制的態度。Facebook、YouTube和Twitter都依賴大量的第三方合同工來管理自己的網路，而傳統上這些員工都是在大辦公室裡並肩工作的。當科技公司關閉辦公室時，他們也關閉了大部分內容審查設施。

令人高興的是，他們繼續給版主發工資——即使是那些不能再工作的版主，因為他們的工作要求他們使用安全設施。但隨著社交網路的使用激增，選舉在即，對節制的需求空前強烈。因此，矽谷很大程度上把監管職責轉移到了自動化系統上。

問題是它是否有效——本週，我們開始瞭解一些細節。Facebook和YouTube都曾警告說，自動化系統會比人類犯更多的錯誤。他們是對的。詹姆斯·文森特在邊緣：

Around 11 million videos were removed from YouTube between April and June, says the FT, or about double the usual rate. Around 320,000 of these takedowns were appealed, and half of the appealed videos were reinstated. Again, the FT says that’s roughly double the usual figure: a sign that the AI systems were over-zealous in their attempts to spot harmful content.

As YouTube’s chief product officer, Neal Mohan, told the FT: “One of the decisi*** we made [at the beginning of the pandemic] when it came to machines who couldn’t be as precise as humans, we were going to err on the side of making sure that our users were protected, even though that might have resulted in [a] slightly higher number of videos coming down.”

結果表明，自動化系統並沒有錄下略高數量的影片，而是錄下了兩倍數量的影片。這一點值得我們所有人思考，尤其是那些抱怨科技公司審查過多內容的人。出於很多原因，像YouTube這樣的公司面臨著越來越大的壓力，他們既要刪除更多的不良帖子，又要自動刪除。隨著時間的推移，這些系統肯定會得到改進，但過去幾個月向我們展示了這種方法的侷限性。他們還表明，當你向科技公司施壓，要求他們刪除更多有害的帖子時——有充分的理由——代價就是審查制度的升級。

我們幾乎從不同時談論這兩種壓力，但這對於制定我們都能接受的解決方案至關重要。

在內容節制方面還有另一個更緊迫的權衡：使用容易出錯但不可戰勝的自動化系統，而不是使用技能更高但易受工作影響的人。

去年，我去了奧斯汀和華盛頓特區，為YouTube和Google介紹現任和前任主持人。我大部分時間都和那些在YouTube恐怖佇列工作的人呆在一起，他們每天檢查暴力極端主義的影片，把它從公司的服務中刪除。這是我做的一個關於內容版主的長達一年的系列文章的一部分，這個系列試圖記錄做這項工作的長期後果。在YouTube上，就像在Facebook上一樣，我採訪過的許多主持人都患有創傷後應激障礙。

其中一位主持人，我在報道中稱他為彼得，他這樣向我描述他的日常生活：

Since he began working in the violent extremi** queue, Peter noted, he has lost hair and gained weight. His temper is shorter. When he drives by the building where he works, even on his off days, a vein begins to throb in his chest.

“Every day you watch someone beheading someone, or someone shooting his girlfriend,” Peter tells me. “After that, you feel like wow, this world is really crazy. This makes you feel ill. You’re feeling there is nothing worth living for. Why are we doing this to each other?”

本週，當我讀到一份代表像他這樣的工人提出的新訴訟時，我想起了彼得。以下是中新網的王奎妮：

A former content moderator is suing Google-owned YouTube after she allegedly developed depression and symptoms associated with post-traumatic stress disorder from repeatedly watching videos of beheadings, child abuse and other disturbing content.

“She has trouble sleeping and when she does sleep, she has horrific nightmares. She often lays awake at night trying to go to sleep, replaying videos that she has seen in her mind,” says the lawsuit, which was filed in a California superior court on Monday. The former moderator also can’t be in crowded places because she’s afraid of mass shootings, suffers from panic attacks and has lost friends because of her anxiety. She also has trouble being around kids and is now frightened to have children, according to the lawsuit.

據黃之鋒報道，參與訴訟的律師事務所也是針對Facebook的類似訴訟的一部分。這是Facebook在此案中所做的大部分工作的一個重要細節：同意以5200萬美元和解。這一和解方案仍需法官的最終批准，僅適用於Facebook的美國版主。而且，由於全球各地都在審理類似的訴訟，Facebook的最終成本可能要高得多。

在與100多位不同規模的服務機構的內容版主交談之後，似乎很明顯，無論他們在哪裡工作，這項工作都會付出類似的代價。只有一小部分員工可能會因為每天觀看令人不安的內容而患上全面的創傷後應激障礙，但其他人會患上其他嚴重的心理健康疾病。而且，由於科技公司基本上都將這項工作外包給了供應商，這一成本在很大程度上被隱藏了起來。

我問YouTube對這起新訴訟有何看法。

一位發言人說：“我們不能對未決訴訟置評，但我們依靠人工和技術的結合來刪除違反我們社群準則的內容，我們承諾支援從事這項重要和必要工作的人。”。“我們謹慎地選擇與我們合作的公司，並與他們合作，提供全面的資源來支援版主的福祉和心理健康，包括限制每天花在評論內容上的時間。”

在同意支付5200萬美元之前，Facebook告訴了我同樣的事情。

不管怎樣，我今天把這些故事串聯起來寫是為了強調權衡是多麼困難。過分依賴機器，它們會刪除很多好的演講。過度依賴人類，最終會導致精神健康狀況惡化。到目前為止，還沒有一家全球規模的科技公司能夠做到這一平衡。事實上，我們仍然沒有真正的協議，讓它“正確”會是什麼樣子。

然而，我們知道僱主有責任保護他們的主持人的健康。為了讓Facebook承認限制極端主義內容的危害，承包商打了一場官司。當這場新的訴訟最終解決時，如果YouTube不被迫承認這一點，我會感到驚訝。

比率

今天的新聞可能會影響公眾對大型科技平臺的看法。

上升趨勢：Facebook刪除了來自中國的賬戶網路，這些賬戶對特朗普總統和拜登都進行了宣傳和批評。這是該公司首次針對美國政界對中國賬戶進行的清理。（克雷格·廷伯格/*****）

趨勢：推特推出了迄今為止最大規模的鼓勵美國人投票的舉措。該公司正在促使美國的每一個人登記投票星期二，這是全國選民登記日。（傑西卡·蓋恩/今日美國）

管理

⭐ 據中情局評估，俄羅斯總統普京“可能指揮”一場外國勢力行動，干預2020年針對拜登的總統選舉。這份評估報告描述了烏克蘭議員安德烈·德卡赫如何在美國傳播有關拜登的****。《*****》的喬希·羅金有這樣一個故事：

The CIA asses**ent described Derkach’s efforts in detail and said that his activities have included working through lobbyists, members of Congress and U.S. media organizati*** to disseminate and amplify his anti-Biden information. Though it refers to Derkach’s interacti*** with a “prominent” person connected to the Trump campaign, the ****ysis does not identify the person. Giuliani, who has been working with Derkach publicly for several months, is not named in the asses**ent. [...]

On Sept. 10, following calls from Democratic lawmakers, the Treasury Department sanctioned Derkach, alleging that he “has been an active Russian agent for over a decade, maintaining close connecti*** with the Russian Intelligence Services.” Treasury Secretary Steven Mnuchin said in a Sept. 10 statement that “Derkach and other Russian agents employ manipulation and deceit to attempt to influence electi*** in the United States and elsewhere around the world.” The Treasury Department stated Derkach “waged a covert influence campaign centered on cultivating false and unsubstantiated narratives concerning U.S. officials in the upcoming 2020 Presidential Election,” which he did by releasing edited audio tapes and other unsupported information that were then pushed in Western media.

⭐預計美國司法部本週將向州檢察長通報其對谷歌提起反壟斷訴訟的計劃。調查最初集中在該公司的廣告業務，但後來逐漸涵蓋了其在線上搜尋領域的主導地位。以下是《*****》的託尼·羅姆：

The department had been eyeing a September lawsuit against Google. U.S. Attorney General William P. Barr this summer sought to speed up the agency’s work, overruling dozens of federal agents who said they needed additional time before they could file a case against Google, The Washington Post previously reported.

一個保守的**組織正在谷歌上釋出關於佛羅里達州選民舞弊的誤導性廣告。雖然標題寫著“佛羅里達州選舉官員因大規模選民舞弊被抓獲”，但廣告的主體談論的是教育舉措。（選舉誠信夥伴關係）

Facebook表示，如果美國總統大選陷入混亂或暴力騷亂，它將在其平臺上“限制內容的流通”。（路透社）

這篇文章認為，大型科技公司可以採取更多措施來保護選舉。他們可以把選舉日定為公司的假日，為民調人員支付個人防護裝備的費用，為民調人員提供打折的乘車服務等等。（查理·沃澤爾/****）

在波特蘭組織親特朗普**導致致命槍擊事件的家人在事件發生前幾乎沒有任何政治背景。他們利用包括臉書（Facebook）在內的網路賬戶召集特朗普支持者，這些賬戶沒有透露他們的全名。（艾薩克·斯坦利·貝克爾、約書亞·帕特洛和卡麗莎·沃爾夫/*****）

最新的透明報告顯示，TikTok今年上半年刪除了1.045億個影片，原因是違反了社群準則或服務條款。該公司還收到近1800份法律請求，收到10600份版權撤銷通知。（英格麗德倫登/TechCrunch）

YouTube正在推出人工智慧工具來捕捉更多可能需要年齡限制的影片。此舉可能意味著，更多的觀眾將被要求在觀看之前登入自己的賬戶，核實自己的年齡。（朱莉婭·亞歷山大/邊緣）

道具。24日本應填補加州消費者隱私法案的漏洞。但隱私權倡導者們對這項法案是否會擴大或限制消費者隱私權意見不一。（吉拉德·埃德爾曼/連線）

洛杉磯警察局自2009年以來已經使用面部識別軟體近3萬次，儘管一再否認自己使用過該軟體。公民自由倡導者說，這些否認是該部門欺騙行為的一部分。（凱文·雷克託和理查德·溫頓/洛杉磯時報）

澳大利亞一家**下令一名陰謀論者向她在Facebook上誹謗的政客支付近百萬美元。陰謀論者說，在沒有證據的情況下，這位政客是戀童癖網路的一部分，這個想法與卡農是一致的。（Cam Wilson/吉茲莫多）

行業

⭐Instagram的聯合創始人凱文·西斯特羅姆（Kevin Systrom）和邁克·克里格（Mike Krieger）構建了一個名為COVID-19的跟蹤器實時幫助人們瞭解病毒是如何傳播的。這已成為了解放寬住房限制對流感大流行有何影響的關鍵途徑。以下是他們對《連線》的史蒂文·利維的採訪：

RT.live is interesting because at times it doesn’t seem in sync with the caseload numbers you see reported other places. A few months ago, for instance, New York was over 4 on your chart and obviously in trouble. Now everyone says it’s one of the safest places. Yet I checked today and the R was over 1.07. That’s bad! Does that mean the numbers are going to go up?

Systrom: Yes, and in fact they are going up. Think of it as a forest fire — what we’re dealing with in California right now. If you have any enormous block of land on fire and it’s growing quickly, that is really bad. If you have a **all plot of land on fire that’s growing at the same rate as that big one, that is also really bad, but it’s less bad because you are starting from a **aller base. So four is really, really bad — it squares with what you felt in March, with New York being a place that was reporting at peak somewhere over 10,000 positive tests per day. But then shelter started, and very quickly you saw infecti*** start to drop. So R went below 1.0, which is good. It means the virus is under control. What you are experiencing in New York right now [with a 1.07 R] is that it’s a **all fire growing, but not nearly at the rate that it was back in March. Remember. I said 1.0 is the **oldering level.

摩根•貝勒（Morgan Beller）是Facebook天秤座戰略的負責人，他將加入風險投資公司NFX，成為該公司的第四位普通合夥人。貝勒被認為是說服Facebook推出自己貨幣的人。她在發射前就離開這一事實似乎不是好兆頭。（梅利婭·拉塞爾/商業內幕）

公司正在利用“生物連結”的趨勢，允許創作者設計簡單的網站。在這場大流行期間，當人們在推廣資源和進行旁敲側擊時，人們越來越需要連結到網路的其他領域。（阿什利·卡曼/邊緣）

Alphabet和Google的首席財務官ruthporat領導著這兩個組織8億美元的小型企業和COVID-19救援工作。“很明顯，小企業是美國經濟的命脈，”她說。（Maneet Ahuja/福布斯）

最後。。。

和我們談談

向我們傳送提示、評論、問題和非違規YouTube影片：[email protected]以及[email protected]。