算法的伦理

2021年4月18日,星期天
第一个播出:
2018年8月12日,星期日

这是什么

近年来,机器学习算法在我们的家里和口袋里兴起。由于它们被认为是公正公正的,它们越来越多地被用于从推荐电影到指导刑事法庭判决的方方面面。但是,当算法是由有偏见的人类程序员创建的时候,它们真的是客观的吗?这种有偏见的算法本身就是不道德的吗?有没有办法抵制不道德的算法?Josh和Ken与斯坦福大学的Christin (Angèle)一起运行代码工作中的度量:新闻和算法的争议意义。

成绩单

评论(16)


哈罗德·g·纽曼的照片

哈罗德·g·纽曼

2018年8月10日,星期五,上午10:34

有很多种

有很多种算法,超越了机器学习,事实上,在此之前很久。因为算法是一种工具、系统和协议,用于理解和解决舒适和可靠性水平的问题:你的汽车修理工有一个既定的、舒适的“算法”来修复你车上磨损的正时带机构。如果你一直注意到那奇怪的声音,也许是发动机舱发出的呼呼的轰鸣声,他会很高兴地拆卸机械装置,并以大约1000至1500美元的价格安装新部件。你可能倾向于认为这个价格是不道德的。但是,这是他服务的成本,也许比买一辆新车更好?道德是一个难以捉摸的话题。网络新闻和刑事司法也是如此。约翰·罗尔斯(John Rawls)的《正义论》(原版)第28页上有一些值得一读的东西——不是因为它是关于道德的,而是因为它与我所说的那些一般不可靠的话题形成了鲜明的对比。这段以……开始。“正义否认某些人失去自由是正确的……”并以……"are not subject to political bargaining or to the calculus of social interests."... Check it out. Justice and morality are related, and if it walks, talks, thinks and acts, it must be human, don't you think?

蒂姆·史密斯的照片

蒂姆•史密斯

2021年4月10日星期六下午1:58

哈罗德,

哈罗德,

正如最近关于约翰·罗尔斯(John Rawls)的一集所提到的,在他的作品中,正义和道德之间的关系隐藏在“无知的面纱”后面,一个人会将正义框架起来,让他们的道德感在他们可能幸运或不幸出生的任何角色下自由发挥。从这个意义上说,道德与正义有关,但道德服从于正义。

这是你引用的整段话。你所引用的段落是接近结尾的。

“在许多哲学家看来,而且似乎得到常识信念的支持,我们在原则上把自由和权利的要求与增加社会总福利的愿望区分开来;并且我们给予前者一定的优先级,如果不是绝对的权重的话。社会的每一个成员都被认为具有一种建立在正义之上的不可侵犯性,或者如某些人所说,建立在自然权利之上的不可侵犯性,即使是其他人的福利也不能凌驾于此之上。正义否认,某些人失去自由,而另一些人分享更大的利益,这是正确的。把不同人的得失当作一个人来平衡的推理被排除在外。因此,在一个公正的社会中,基本自由被认为是理所当然的,由正义保障的权利不受政治讨价还价或社会利益的影响。”——《正义论》第一章作为公平的正义一些相关的对比-从修订版的第24页开始。

在修订版的序言中,罗尔斯将他的功利主义概念澄清为“(平均)效用原则”,取代了他使用的“差异原则”。在任何参考框架中,他都没有像你最近在下面所做的那样,讨论“尽你所能”关于正义或科学超越。这里没有什么滑头,尤其是考虑到罗尔的修订和后来的作品。

cohenle的照片

cohenle

2018年8月12日,周日,上午11:42

这不是非此即彼的问题

这不是一个非此即彼的问题。算法在人类做决定时很有帮助。我是一名医生,依靠算法来指出我什么时候可能忘记了什么,或者帮助进行临床判断。法官同样可以使用一种算法来指出他/她的决定是否大错特错。

Anotherstudent的照片

Anotherstudent

2021年4月22日(星期四)晚上11:12

我同意算法可以是

我同意算法可以成为一个有用的工具,但医学界不是已经有了一种叫做“护理标准”的东西,让医生的手与保险公司的决定捆绑在一起吗?

我不认为人的身体应该被看作是一台机器。一个医生可能有10个患有相同疾病的病人,但根据他们个人的身体和疾病的原因,可能需要对他们进行不同的治疗。如果我们对医疗系统进行比现在更多的算法计算,我们可能都只是等待屠宰的牛。

我们需要停止对人性的非人化。

今晚刚听了这集,才知道它是2018年播出的。所以现在的话题可能会有所不同。

蒂姆·史密斯的照片

蒂姆•史密斯

2021年4月25日,星期日,上午7:50

Moo !

Moo !

没有太大的不同,而是更加密切相关。你的观点很好。注意标准不是AI或GOFAI,而是算法。

科恩在自欺欺人地认为,从长远来看,算法是在提供信息,而不是发号施令。

另一方面,我在吃医疗苹果之前,通过检查我的疣子,避免了一些账单。

让我们看看2024年的人类会怎么说。希望情况会有所不同。自满是不能解决问题的。

chwarden的照片

chwarden

2018年8月20日,星期一,下午2:55

算法有不同的版本

算法在其整个生命周期中会经历多个版本:1.0、1.1、1.2、2.0、2.1、2、2、3.0、3.1、3.2等等。这意味着将算法用于法律目的必须在使用之前处理好当错误发生时该怎么做。如果1.1版本说你释放了那些应该还在监狱里的人,但根据1.0版本之前的分析,他们已经被释放了,会发生什么?如果2.0版本说你在1.1版本之后重新监禁了一个实际上应该自由的人,会发生什么?算法在医学上可能很有效,因为医学显然是实验性的,但法律似乎不太欢迎纠正错误。我的印象是,尽管版本10及以上可能是公平的,不考虑种族、性别和其他群体身份,但目前的法律不可能做到这一点。持续准确开放的数据收集是改进所必需的,我只是认为自我、金钱和传统会阻止算法合法使用的持续质量改进。

哈罗德·g·纽曼的照片

哈罗德·g·纽曼

2021年3月13日,星期六,上午5:15

对此还有其他评论吗

恕我直言,其他关于这个问题的评论很受欢迎,也很有见地。我认为算法是更基本的层面。机器学习是,人类的一项发明,一项基础
人工智能的现象。同样,道德和伦理也是人类的建构,有用与否取决于谁在谈论/应用/执行它们。以及这些派系的动机可能是什么。我听过并考虑过的一种说法是,算法是工具。这似乎与讨论相一致。想想另一篇PT文章,我们会认为他们是科学的越界吗?我不确定这对任何人来说都有意义,除非他是一个铁杆的科技恐惧症患者。当我们谈到工具制造时,我们通常指的是这样或那样的改进。如果有人出于邪恶或自私自利的原因选择使用工具,这与工具无关,因为它不承担任何伦理或道德责任。

理所当然。有多重的罪责;的责任。这些依赖于工具制造者和工具使用者。
飞机失事,生命和财产损失。波音公司仍然在制造飞机,我们(一些人)仍然在飞行……我强烈怀疑这种情况会持续下去,除非出现更好的算法……

哈罗德·g·纽曼的照片

哈罗德·g·纽曼

2021年3月13日星期六上午7:01

最后说几句。让我们

最后说几句。让我们来评估一下社交媒体在过去6年左右的发展情况。这一制度的创造者可能有着良好的意图以及健康的资本主义意识。很好。但是,总有些人会利用一件好事来进一步的动机,这可能是值得怀疑的。喷子和欺凌出现了,腐蚀了其他人的工具。更糟糕的是,一位民选官员多次滥用特权。当已故的克里斯托弗·希钦斯(Christopher Hitchens)宣称宗教毒害了一切时,我们只看到了一座冰山。或者,他是吗?算法的好坏取决于我们如何创造它们。

哈罗德·g·纽曼的照片

哈罗德·g·纽曼

2021年3月23日,星期二,上午8:13

我想说点什么

我想说更多关于算法和科学过度的东西。首先,我想提出几个问题:
1.语言是一种算法还是它促进了我们的发展
2、科学过度是有害的,还是说这只是一个例子,用你所拥有的和你所知道的做到最好?
你看,对我来说它们是有联系的。再说一遍,我不确定道德的界限和功利的起点在哪里。让我们考虑在紧急情况下使用未经批准的疫苗。有一个缩略词是我在接种流感疫苗时知道的…EUA之类的。所以,这是一个具有明确伦理和道德含义的算法。在全球范围内。虽然我们中的一些人对接种疫苗犹豫不决,但其他人已经遵循科学并接受了疾病和/或死亡的替代方案。在我看来,效用胜过风险。实用主义胜过伦理道德(?)

哈罗德·g·纽曼的照片

哈罗德·g·纽曼

2021年4月8日星期四下午1:23

...最后,现实

...最后,现实战胜了否认公爵。希望和RMN一样,我们不会再让他到处乱踢(???????????????)。如果你不记得RMN,谷歌——你应该只需要这些首字母。

蒂姆·史密斯的照片

蒂姆•史密斯

2021年4月10日星期六-凌晨2:05

算法不是

算法不是问题所在,它们的性质或使用也不是不道德的。用算法来解决不确定性是理性的高度。许多我们认为不可避免而没有证据的事情很可能根本就不确定。虽然算法通常不能提供确定性的答案,但它们可以为哲学问题提供可能的最佳解决方案,这些问题本身就违背了逻辑证明。这些都是哲学中最有趣的问题。什么是理性?我们思想的本质是什么?如何生活?

COMPAS是霍利报告中提到的公共安全评估(PSA)项目,ProPublica在2016年的一篇报道中介绍过它。在61%的案件中,这个特定的程序准确准确地预测了黑人和白人被告的再犯。然而,在失败的39%的案件中,COMPAS将白人被告归类为低风险被告的可能性是其他人的两倍,而黑人被告被归类为高风险被告时不会再犯的可能性是其他人的两倍。这种不公正是一个巨大的问题。我不确定司法系统在使用该程序之前表现如何,但似乎这反映了训练集。如果算法在最好的情况下只指出了这一点,我们就不应该用它们来加强这些模型。

卢米斯诉威斯康辛州的案件同样令人不安,因为法官在该案中使用了同样的PSA系统,该系统仅用于保释听证会,而不是使用COMPAS作为量刑工具。

没有人会否认电脑的优点。我们都太沉迷于电脑为我们提供的生活标准。算法和计算技巧有一些诱人之处。

艾瑞斯·贝伦特(Iris Berent)的《盲人说书人》(The Blind Storyteller)(她是PT: The considered Year: 2020的嘉宾)假设二元论是人类天生的行为。贝伦特的论点是基于她自己的研究,并引用了反映实验哲学最好的研究。我将把这种天生的二元论扩展为一种未经审问的、不健康的投降,即人类向内部和外部模型的力量投降,就像算法所建议和验证的那样。

除了揭露现有的偏见和真相模型外,算法还可以创建超出人类思维理解能力的虚假模型。不准确的人工智能驱动的思想和行动模型是不把正义、伦理和道德问题交给算法的最佳理由。我希望Ken和Josh能够讨论这个问题,以及算法获得超越人类理解的真理的能力。

我同意肯的观点,人类向即将到来的奇点投降是不可避免的。一些人正在把算法安全作为一个项目来研究。这种安全的关键是透明、公平和人类品质的准确表现。基于这三大支柱,我看到了一条人类安全的道路。除此之外,我们必须向我们所侍奉的上帝低头。不管怎样,我们都会得到我们应得的。

哈罗德·g·纽曼的照片

哈罗德·g·纽曼

2021年4月18日,周日,早上6:20

已经说了很多

在这篇关于道德的文章和另一篇关于伦理的文章中,关于算法已经说了很多。我没有什么可补充的了,所以我就不重复了。维特根斯坦(Wittgenstein)说得好:人们不知道这些;这是不可说的。

TaylorSpencePhD的照片

TaylorSpencePhD

2021年4月25日,星期日,上午10:17

你好! ?POC多?Ruha

你好! ?POC多?Ruha Benjamin和Safiya Noble就这个话题写了很多文章。

蒂姆·史密斯的照片

蒂姆•史密斯

2021年4月26日,星期一,晚上8:26

斯宾塞博士

斯宾塞博士

你好。

POC,作为一个动词,投下阴影。

再听一遍。

该节目于2018年在鲁哈和萨菲娅出版新书之前播出。安琪·克里斯汀的书于2020年出版。然而,本雅明和诺布尔的作品都在参考书目中,讨论被塑造和归因于两人的思想。

你对鲁哈和萨菲亚有什么看法?这里没有人忽视他们的工作。

让我们来看看算法的伦理。让我们讨论一下。这就是这里的项目。

从Joy Buolamwini到merill Flood,其他研究人员也写过这方面的文章。不过,还有更多问题需要讨论。

你的关注点到底是什么?让我们来讨论一下没有阴影和太多的光或者至少是亮度。

博客?我们开始吧。

祝你好运。

哈罗德·g·纽曼的照片

哈罗德·g·纽曼

2021年4月26日,星期一,下午2:52

哎呦。不熟悉

哎呦。我不熟悉这个缩写,教授。你提到的那些人不是作家(思想家?)我读过了。和尊重。以前遇到过像你这样的人。这里不用担心。你喜欢缩写词?Suss这个:我的继子患有创伤后应激障碍。你知道那是什么吗? My advice to him was PSDP.--- providence smiles on determination and purpose.. Turns things around a bit, doesn't it? But, you may not know that, right? What you know, or don't know is i only as important as what,I do or do not know. Good luck and good night. I did not say that. Look it up.

蒂姆·史密斯的照片

蒂姆•史密斯

2021年4月26日,星期一,晚上8:32

斯宾塞博士

重新做了我的回复在他们的地方,并张贴到他们的点。

写博客很有趣。