2016-04-18 17:02 原创 晓桦
言论自由的边界是如何在一个高风险公共领域的爆炸性增长时期中成立起来的？
今天，YouTube的十几亿用户大约每分钟上传400小时的视频。同时在每小时里，Instagram用户送出1.46亿个“赞”，Twitter用户共发送2100万条推讯。去年8月，马克·扎克伯格在Facebook上表示，该网站到达了“一个重要的里程碑：Facebook首次实现一天之内有十亿人使用Facebook”。
但是，在面对自由与管制的问题上，这些平台的内容过滤机制——时常处于企业利益、社交责任、基本人权等问题之间权衡的迷之困惑当中。事实上，我们所迷恋的西方言论自由，背后有我们看不见的机制。
YouTube内容分析师的故事
2006年夏天的某个日子，朱莉·莫拉·布兰科永远记得这天：这个日子她落实了新的工作。莫拉·布兰科是当时加州州立大学奇科分校的应届生，主修艺术，辅修女性主义研究，而且她大部分空间时间都在捣腾雕塑。在跳槽到互联网创业公司YouTube前，布兰科在时事电视台（Current TV）从事后期制作，每天为着沉重的房租奋斗。她想，也许，她可以在赚足了钱然后去追求她一生的梦想：成为一名发型设计师。
那是一个温暖、阳光明媚的早晨，她坐在公司办公室里——公司坐落于圣马特奥市，旧金山里田园牧歌式的富裕区。Mora-Blanco是60多个二十几岁在这家仍未实现盈利的网站中工作的人之一。
布兰科的团队——一共10个人——被称为“SQUAD队”（Safety, Quality, and User Advocacy Department：安全、质量和用户宣传部门）。他们团队一般工作四到六天，部分时间实行轮班，晚上他们就一起审阅视频。他们的职责是什么？过滤网站上被用户标记的攻击性或恶意的内容，维护YouTube这个羽翼未丰的品牌。或者如布兰科所说的。YouTube创始人希望YouTube能够成为一个新锐的网站——一个属于所有人的地方——而不是另一个eBaum。
面对一条条标签：删除虐待动物的视频、删除血腥视频、删除黄色电影……等等，布兰科经常和同事Misty Ewing·Davis拿这些标签开玩笑。“你必须要自找幽默，要不然真的太痛苦了。”
出现在电脑屏幕上的视频永无休止。大概4秒钟，SQUAD小队的成员大概看完一屏的视频然后选择“批准”——同意上传到网站；“拒绝”则是——删除该视频，但不惩罚上传者；“打击”——则是不仅删除，还将对上传账户采取一定禁止措施。点击、点击、点击……但某一天，一些事情改变了布兰科的发展轨迹。
“噢，天啊！”对于那个早上看到的东西，布兰科如今还心有余悸。不过最后她还是回忆了起来，她说，她看到视频中一个蹒跚学步的孩子在一个昏暗的房间，里面发生了骇人听闻的暴力。
Ewing-Davis冷静地帮助布兰科点击“打击”，停用了该账户，并报告了组长。然后，该信息将会被发送至检举中心——一个由国家失踪和受虐儿童中心(NCMEC)于1998年发起的报告系统。儿童虐待的镜头是法律明确禁止的行为。
这个视频是消失了，但下一个又来了。
是的，这就是你的工作。布兰科和Ewing-Davis在街上踱来踱去，思索着：对的，你总会看到些不好的东西。
大约过了十年，那个儿童受虐的视频仍然困扰着布兰科。“在我的脑海里，那个画面还时常浮现。”“我对职业生涯没有很多的规划，当时25岁还年轻的我，还在为薪酬感到高兴，却从未想过遭遇如此之黑暗沉重。”
布兰科是十几个接受The Verge采访的来自YouTube、Facebook等主流互联网平台的前任或现任员工之一，他们在接受采访时，都谈到了内容审核造就的“互联网黎明”。他们当中大多数人都是第一次公开他们的经历，他们的故事揭示了言论自由的边界是如何在一个高风险公共领域的爆炸性增长时期中成立起来的。如法学教授许多年前首次提到的：“Facebook这一类平台拥有比世界各地任何一名最高法院法官、国王或总统更多的‘决定谁能发言、谁的发言被听见的权利’。”也就是说，它们为民众带来更大的话语权。
互联网内容从放任到管制
YouTube于2005年2月15日注册，由华裔（台湾）美籍华人陈士骏、查德·赫利 （Chad Hurley）、乔德·卡林（Jawed Karim）创立。2006年11月，Google公司以16.5亿美元收购了YouTube，并把其当做一家子公司来经营。
YouTube成为在线视频之王并不容易，创立之初，这三个二十多岁的年轻人是非常的挫败，因为技术上他们没有简单的方法来分享两个特别引人注目的视频：2004年那场摧毁东南亚的海啸剪辑和Janet Jackson的超级碗“服装事故”。2005年4月，他们进行了第一次上传测试。到了10月份，他们发布了第一个点击量过百万的热点视频：这段视频是耐克的广告，展示的是巴西足球明星Ronaldinho领取“金靴”的场景。几个星期之后，Google斥资16.5亿美元收购了这家视频分享网站。当时Google称其为“互联网革命的下一阶段”，此时YouTube已经有65名员工。这个时候，布兰科获得了晋升：内容策略分析师。到2006年中期，YouTube用户每天在线观看的视频超过1亿个。
YouTube诞生初期，该网站吸引了一小部门专门共享关于家庭和朋友生活的视频。但随着网站的爆发式扩张，内容主题也多样起来，甚至充斥着大量危害社会的内容：商业电影和音乐的剪辑视频被上传，同时有大量的业余和专业的色情。慢慢地，虐待儿童、殴打和虐待动物的视频也随之出现。到了2007年底，YouTube承诺遵守著作权法，并创建一个专门负责内容审核的小组。但筛选恶意内容比想象中要复杂，首先它需要密集的人类劳动。
于是，就有了上述“SQUAD队”的工作了。他们为内容审核创造了一系列的标准，其中简单地说就是“这个视频能够分享给家人吗？”大多数情况下他们都是各自独立，部分具有争议性地则交给创始人来决断。慢慢地，他们便形成了一个行业内尚未出现过的工作领域：专业的内容审核。（作者可能不知道天朝有广电局）
到了2006年秋季，与 SQUAD一起处理数据和视频插图的YouTube律师、审核政策主导者为该团队制定了一个长达六页的规则小册子，然后每隔几周还更新一次。没有政策定义，这个即兴创作的小团队未曾领会到，他们实际在研发了一个关于言论自由的新全球标准。
走向自由？互联网公司的反叛与约束
2009年夏天，伊朗示威者涌上街头，抗议内贾德当局在选举中舞弊。此次抗议被称为“绿色运动”，是伊朗革命历史上最重要的政治事件之一。在这场大规模抗议和骚乱中，互联网成为示威者传递信息、发泄不满和积聚外界同情的重要渠道。个人博客、Twitter、Facebook等成为示威者交流的重要方式；Youtube、Flickr等成为向国际媒体反映德黑兰街头实景的首选载体。而布兰科和她的团队，监控着许多被上传到YouTube的抗议视频。
7月20日，该团队收到一段视频：这是一位业余摄影师拍摄并上传到YouTube上的一段视频。视频拍摄于总统大选抗议活动中的伊朗街头，记录了一位名叫Neda Agha-Soltan的女子胸部中弹后死亡在大街上的经过。画面中这个26岁的女孩血液从眼睛冒出，她生命中最后的而且是可怕的时刻被记录了下来。
这个视频上传后数小时内，它都成为布兰科和团队关注的焦点。根据她的回忆，他们的政策指导并没有任何有关“构成了新闻价值”的指引，或者说，在本质上构成了新闻伦理。但她知道视频所具有的政治意义，也意识到他们的决定将能给她的牺牲带来贡献。
布兰科和团队最终决定保留该视频。后来，该视频引发了全球范围的言论自由与人权的对话——它有巨大的政治影响力。他们有巨大的政治权力。
随后，SQUAD政策团队迅速与法律部门合作，决定放宽其无端的反暴力政策，匆忙创立起一个“豁免新闻”的标准。如今这段视频被广泛转载，全球都可以目睹这个拥护民主的抗议者的壮举。后来该视频还获得了荷赛奖。
今天，YouTube的十几亿用户大约每分钟上传400小时的视频。同时在每小时里，Instagram用户送出1.46亿个“赞”，Twitter用户共发送2100万条推讯。去年8月，马克·扎克伯格在Facebook上表示，该网站到达了“一个重要的里程碑：Facebook首次实现一天之内有十亿人使用Facebook”。
在面对自由与管制的问题上，这些平台的内容过滤机制——时常处于企业利益、社交责任、基本人权等问题之间权衡的迷思当中——它们对言论自由、政府异议、社会规范的形成、用户安全 、隐私的意义有重大的影响。哪些内容应该被删除？谁来决定内容的去与留？什么是新闻价值？威胁？伤害？当涉及到法律实施吗？他们也很困惑
虽然公众对政府的审查制度和大学校园的言论自由管理感到愤怒，但是客户内容管理给关于隐私、共同管理的互联网的言论自由带来了和平传播的环境。关于内容审核，微软研究员Kate Crawford定义为——是“一个选择什么才能构成公共领域自由言论的深刻人类决策过程”。
截至去年夏季，社交媒体平台——尤其是Facebook——占据所有主流新闻网站43%的流量，将近三分之二的Facebook和Twitter用户通过社交平台接收新闻内容。无节制的社交媒体经常涉及宗派暴力、家庭暴力、暴力极端主义者的招募、大规模欺凌事件等等。报告称，社交媒体和移动科技给巴基斯坦等国家的妇女带来真正的伤害，因为它让强奸犯多了一个勒索受害者的手段（受害者或许会因被强奸了而入狱）。
《大西洋月刊》某个报道所提倡的一种流行叙事，是指当前内容审核系统被打破。但是，对于那些已经受到在线伤害的人来说，“打破”已经不是一个合适的词，相反，这制度应该是在此前已经被全部击碎了。在过去的18个月中，通过对十几名业内专家的采访发现，具有全球影响的内容审核已经被边缘化，甚至达到惊人的程度。早期凭借经验达成的直觉性审核政策今天依旧存在，但已经被业内拒绝参与实质性公众对话和媒体问答的企业所掩盖。
via The Verge
2016-04-18 17:02 原创 晓桦
言论自由的边界是如何在一个高风险公共领域的爆炸性增长时期中成立起来的？
今天，YouTube的十几亿用户大约每分钟上传400小时的视频。同时在每小时里，Instagram用户送出1.46亿个“赞”，Twitter用户共发送2100万条推讯。去年8月，马克·扎克伯格在Facebook上表示，该网站到达了“一个重要的里程碑：Facebook首次实现一天之内有十亿人使用Facebook”。
但是，在面对自由与管制的问题上，这些平台的内容过滤机制——时常处于企业利益、社交责任、基本人权等问题之间权衡的迷之困惑当中。事实上，我们所迷恋的西方言论自由，背后有我们看不见的机制。
YouTube内容分析师的故事
2006年夏天的某个日子，朱莉·莫拉·布兰科永远记得这天：这个日子她落实了新的工作。莫拉·布兰科是当时加州州立大学奇科分校的应届生，主修艺术，辅修女性主义研究，而且她大部分空间时间都在捣腾雕塑。在跳槽到互联网创业公司YouTube前，布兰科在时事电视台（Current TV）从事后期制作，每天为着沉重的房租奋斗。她想，也许，她可以在赚足了钱然后去追求她一生的梦想：成为一名发型设计师。
那是一个温暖、阳光明媚的早晨，她坐在公司办公室里——公司坐落于圣马特奥市，旧金山里田园牧歌式的富裕区。Mora-Blanco是60多个二十几岁在这家仍未实现盈利的网站中工作的人之一。
布兰科的团队——一共10个人——被称为“SQUAD队”（Safety, Quality, and User Advocacy Department：安全、质量和用户宣传部门）。他们团队一般工作四到六天，部分时间实行轮班，晚上他们就一起审阅视频。他们的职责是什么？过滤网站上被用户标记的攻击性或恶意的内容，维护YouTube这个羽翼未丰的品牌。或者如布兰科所说的。YouTube创始人希望YouTube能够成为一个新锐的网站——一个属于所有人的地方——而不是另一个eBaum。
面对一条条标签：删除虐待动物的视频、删除血腥视频、删除黄色电影……等等，布兰科经常和同事Misty Ewing·Davis拿这些标签开玩笑。“你必须要自找幽默，要不然真的太痛苦了。”
出现在电脑屏幕上的视频永无休止。大概4秒钟，SQUAD小队的成员大概看完一屏的视频然后选择“批准”——同意上传到网站；“拒绝”则是——删除该视频，但不惩罚上传者；“打击”——则是不仅删除，还将对上传账户采取一定禁止措施。点击、点击、点击……但某一天，一些事情改变了布兰科的发展轨迹。
“噢，天啊！”对于那个早上看到的东西，布兰科如今还心有余悸。不过最后她还是回忆了起来，她说，她看到视频中一个蹒跚学步的孩子在一个昏暗的房间，里面发生了骇人听闻的暴力。
Ewing-Davis冷静地帮助布兰科点击“打击”，停用了该账户，并报告了组长。然后，该信息将会被发送至检举中心——一个由国家失踪和受虐儿童中心(NCMEC)于1998年发起的报告系统。儿童虐待的镜头是法律明确禁止的行为。
这个视频是消失了，但下一个又来了。
是的，这就是你的工作。布兰科和Ewing-Davis在街上踱来踱去，思索着：对的，你总会看到些不好的东西。
大约过了十年，那个儿童受虐的视频仍然困扰着布兰科。“在我的脑海里，那个画面还时常浮现。”“我对职业生涯没有很多的规划，当时25岁还年轻的我，还在为薪酬感到高兴，却从未想过遭遇如此之黑暗沉重。”
布兰科是十几个接受The Verge采访的来自YouTube、Facebook等主流互联网平台的前任或现任员工之一，他们在接受采访时，都谈到了内容审核造就的“互联网黎明”。他们当中大多数人都是第一次公开他们的经历，他们的故事揭示了言论自由的边界是如何在一个高风险公共领域的爆炸性增长时期中成立起来的。如法学教授许多年前首次提到的：“Facebook这一类平台拥有比世界各地任何一名最高法院法官、国王或总统更多的‘决定谁能发言、谁的发言被听见的权利’。”也就是说，它们为民众带来更大的话语权。
互联网内容从放任到管制
YouTube于2005年2月15日注册，由华裔（台湾）美籍华人陈士骏、查德·赫利 （Chad Hurley）、乔德·卡林（Jawed Karim）创立。2006年11月，Google公司以16.5亿美元收购了YouTube，并把其当做一家子公司来经营。
YouTube成为在线视频之王并不容易，创立之初，这三个二十多岁的年轻人是非常的挫败，因为技术上他们没有简单的方法来分享两个特别引人注目的视频：2004年那场摧毁东南亚的海啸剪辑和Janet Jackson的超级碗“服装事故”。2005年4月，他们进行了第一次上传测试。到了10月份，他们发布了第一个点击量过百万的热点视频：这段视频是耐克的广告，展示的是巴西足球明星Ronaldinho领取“金靴”的场景。几个星期之后，Google斥资16.5亿美元收购了这家视频分享网站。当时Google称其为“互联网革命的下一阶段”，此时YouTube已经有65名员工。这个时候，布兰科获得了晋升：内容策略分析师。到2006年中期，YouTube用户每天在线观看的视频超过1亿个。
YouTube诞生初期，该网站吸引了一小部门专门共享关于家庭和朋友生活的视频。但随着网站的爆发式扩张，内容主题也多样起来，甚至充斥着大量危害社会的内容：商业电影和音乐的剪辑视频被上传，同时有大量的业余和专业的色情。慢慢地，虐待儿童、殴打和虐待动物的视频也随之出现。到了2007年底，YouTube承诺遵守著作权法，并创建一个专门负责内容审核的小组。但筛选恶意内容比想象中要复杂，首先它需要密集的人类劳动。
于是，就有了上述“SQUAD队”的工作了。他们为内容审核创造了一系列的标准，其中简单地说就是“这个视频能够分享给家人吗？”大多数情况下他们都是各自独立，部分具有争议性地则交给创始人来决断。慢慢地，他们便形成了一个行业内尚未出现过的工作领域：专业的内容审核。（作者可能不知道天朝有广电局）
到了2006年秋季，与 SQUAD一起处理数据和视频插图的YouTube律师、审核政策主导者为该团队制定了一个长达六页的规则小册子，然后每隔几周还更新一次。没有政策定义，这个即兴创作的小团队未曾领会到，他们实际在研发了一个关于言论自由的新全球标准。
走向自由？互联网公司的反叛与约束
2009年夏天，伊朗示威者涌上街头，抗议内贾德当局在选举中舞弊。此次抗议被称为“绿色运动”，是伊朗革命历史上最重要的政治事件之一。在这场大规模抗议和骚乱中，互联网成为示威者传递信息、发泄不满和积聚外界同情的重要渠道。个人博客、Twitter、Facebook等成为示威者交流的重要方式；Youtube、Flickr等成为向国际媒体反映德黑兰街头实景的首选载体。而布兰科和她的团队，监控着许多被上传到YouTube的抗议视频。
7月20日，该团队收到一段视频：这是一位业余摄影师拍摄并上传到YouTube上的一段视频。视频拍摄于总统大选抗议活动中的伊朗街头，记录了一位名叫Neda Agha-Soltan的女子胸部中弹后死亡在大街上的经过。画面中这个26岁的女孩血液从眼睛冒出，她生命中最后的而且是可怕的时刻被记录了下来。
这个视频上传后数小时内，它都成为布兰科和团队关注的焦点。根据她的回忆，他们的政策指导并没有任何有关“构成了新闻价值”的指引，或者说，在本质上构成了新闻伦理。但她知道视频所具有的政治意义，也意识到他们的决定将能给她的牺牲带来贡献。
布兰科和团队最终决定保留该视频。后来，该视频引发了全球范围的言论自由与人权的对话——它有巨大的政治影响力。他们有巨大的政治权力。
随后，SQUAD政策团队迅速与法律部门合作，决定放宽其无端的反暴力政策，匆忙创立起一个“豁免新闻”的标准。如今这段视频被广泛转载，全球都可以目睹这个拥护民主的抗议者的壮举。后来该视频还获得了荷赛奖。
今天，YouTube的十几亿用户大约每分钟上传400小时的视频。同时在每小时里，Instagram用户送出1.46亿个“赞”，Twitter用户共发送2100万条推讯。去年8月，马克·扎克伯格在Facebook上表示，该网站到达了“一个重要的里程碑：Facebook首次实现一天之内有十亿人使用Facebook”。
在面对自由与管制的问题上，这些平台的内容过滤机制——时常处于企业利益、社交责任、基本人权等问题之间权衡的迷思当中——它们对言论自由、政府异议、社会规范的形成、用户安全 、隐私的意义有重大的影响。哪些内容应该被删除？谁来决定内容的去与留？什么是新闻价值？威胁？伤害？当涉及到法律实施吗？他们也很困惑
虽然公众对政府的审查制度和大学校园的言论自由管理感到愤怒，但是客户内容管理给关于隐私、共同管理的互联网的言论自由带来了和平传播的环境。关于内容审核，微软研究员Kate Crawford定义为——是“一个选择什么才能构成公共领域自由言论的深刻人类决策过程”。
截至去年夏季，社交媒体平台——尤其是Facebook——占据所有主流新闻网站43%的流量，将近三分之二的Facebook和Twitter用户通过社交平台接收新闻内容。无节制的社交媒体经常涉及宗派暴力、家庭暴力、暴力极端主义者的招募、大规模欺凌事件等等。报告称，社交媒体和移动科技给巴基斯坦等国家的妇女带来真正的伤害，因为它让强奸犯多了一个勒索受害者的手段（受害者或许会因被强奸了而入狱）。
《大西洋月刊》某个报道所提倡的一种流行叙事，是指当前内容审核系统被打破。但是，对于那些已经受到在线伤害的人来说，“打破”已经不是一个合适的词，相反，这制度应该是在此前已经被全部击碎了。在过去的18个月中，通过对十几名业内专家的采访发现，具有全球影响的内容审核已经被边缘化，甚至达到惊人的程度。早期凭借经验达成的直觉性审核政策今天依旧存在，但已经被业内拒绝参与实质性公众对话和媒体问答的企业所掩盖。
via The Verge