告密者、活动家和参议院候选人切尔西·曼宁在SXSW上就未经检查的数据收集和对算法的错误信任的危险发表了广泛的讲话。”曼宁说：“我在伊拉克研究的算法已经进入了警务工作，也进入了企业界的工作方式，无论是你的信用报告还是广告数据。”去年5月，前总统巴拉克·奥巴马（Barack Obama）因泄露机密情报减刑35年后，曼宁从监狱获释我们在一个环境中看到的所有这些不同的工具都在其他环境中找到了它们的方式。”

在与《Vogue》杂志的莎莉·辛格（Sally Singer）的对话中，曼宁将她十年前在军队中从事的预测分析工作与她担心现代程序员如何接近人工智能进行了比较。”例如，在**和信用报告决策中使用算法的想法是“更好”。如果我们只写一个更好的算法，更准确的算法，如果我只是把这个问题的垃圾计算出来……”她说：“如果我数学算得很好，我就能解决问题。我带着这种心态来到伊拉克。”算法本身并不是无偏的。当我们写它的时候，我们把我们的偏见放在那里。此外，我们还向it部门提供了一开始可能有偏见的数据。”

曼宁对人工智能系统提出了一个共同的批评，她以前也曾提出过这个批评。例如，大量训练于白脸上的人脸识别算法无法识别深色皮肤，而且预测性的警务输入因对某些社区进行严格警务的部门而发生偏差。曼宁呼吁建立一个规范软件开发的道德框架。”我们作为技术专家和开发人员，尤其是那些在影响数百万人的系统上工作的人——是的，我指的是推特算法、谷歌算法，以及预测性监管——我们需要意识到我们所做的一切的后果，”她说就像医生有道德规范一样，软件开发人员也应该有道德规范。”

曼宁说，问题的一部分在于收集了大量的信息，这些信息可以随着时间的推移重新调整用途。”我在偏执的安全级别上运作。也就是说，我给人们的建议最多的是：对你发布的信息保持自我意识。”这包括技术上自愿的信息，比如允许通过**应用程序进行位置跟踪，以及极难保密的数据，比如可以卖给广告商的购买历史记录。

但她也对自己认为缺乏行动感到不安。”我们的自满是危险的，”她说人们已经知道至少四年，五年了，现在监控很糟糕，而且它正在大规模发生[…]我们知道这是一个问题。虽然曼宁同意不谈论她在SXSW的政治候选人资格，但这正是她竞选马里兰州参议员的含蓄原因。尽管曼宁的民主党对手本杰明·卡丁（Benjamin Cardin）投票反对这项措施，但今年早些时候，国会投票通过了第702条，重新授权备受争议的****局监督权。

尽管曼宁自称信息偏执狂，但她在推特上保持活跃的公众形象，尽管她说她只在“安全的笔记本电脑”上使用它，并试图避免陷入负面反馈。”我想让人们知道：我并不害怕成为一名前囚犯。我不怕做变性人。“我不怕做我自己，”她说这真是一种挑衅行为。”

曼宁只是科技界众多担心人工智能会助长偏见、监视和分裂的人中的一员，而不是SXSW发言人埃隆·马斯克（Elon Musk）担心的世界末日情景。但作为一个在她被监禁期间基本上与外界隔绝的人，她处于观察这种情况的独特位置。

她说：“我在自己的小世界里，挣扎着要出去，尽管我知道外面正在发生事情。”现在我来到这里，我意识到，哦，哇，我们真的有警察的军事化，警务的风格，政治的修辞——一切都改变了。它变得越来越黑暗，越来越可怕。事实上，这是一个持续的过程。这是几十年来的事情。这不是反常现象。”

美国东部时间晚上10:30更新：增加了关于曼宁SXSW面试官的内容。