摘要:科学技术在教育中应用产生正价值同时也会产生负价值。

鲸媒体讯 (文/Pamela)近日,在GES大会上,西安交通大学副校长郑庆华,工信部信息中心副主任李德文教授,北京师范大学哲学学院教授,北京师范大学-香港浸会大学联合国际学院教务长李建会以及微软全渠道事业部首席技术官徐明强等人就教育+科技的伦理与边界进行了一场圆桌论坛。

 

以下为鲸媒体摘取的亮点:

  • 科技和教育的融合一定是未来推动教育信息化、现代化、智能化、个性化、国际化的基础支撑手段。任何科技技术跟任何事物一样都有两面性,科技给我们教育带来现代化、智慧化的同时它也带来了新的管理,包括伦理、道德、新的社会秩序的影响。
  • 科学技术在教育中应用产生正价值同时也会产生负价值。在多媒体、互联网等技术发展像由过去外面的工具变成重要的手段改造教育,科学技术已经越来越从深入教学,加入教学,变成潜入教学和融入教学。在这种情况下,教育已经越来越离不开技术。离开了电脑,离开了多媒体,在很多情况下教育可能都无法进行,结果技术就逐步由服务者角色转变为控制者角色,有可能出现了过渡依赖技术而产生技术对教育的控制和垄断的情况,一系列负面价值可能就从这个地方产生了。

 

以下为论坛对话实录:

主持人:谢谢。接下来进入今天第一场圆桌论坛。有请主持嘉宾,北京师范大学远程教育研究中心教授张伟远先生,以及我们对话嘉宾:西安交通大学副校长郑庆华先生,工信部信息中心副主任李德文教授,北京师范大学哲学学院教授、北京师范大学-香港浸会大学联合国际学院教务长李建会先生,以及微软全渠道事业部首席技术官徐明强先生。掌声有请!

主持人(张伟远):各位嘉宾、各位专家、各位同仁,早上好。我是北京师范大学的张伟远。我长期在香港大学担任学术伦理委员会委员。传统的做教育研究有两个边界,一个是学术规范的边界。如果比如说抄袭了别人的观点或者文章,那是跨越了学术规范的界限。另一个就是学术伦理的边界。如果研究者对研究对象,教育领域最长的是学生、教师。如果我们这项研究对学生,对教师研究对象会产生潜在的,就是可能的生理或者心理上的伤害,比如对小学生问一些敏感的问题,那就是超越了学术伦理的界限。所有的研究都是经过学术伦理委员会评审。现在国际上期刊也越来越多地要求教育研究的论文,提供学术伦理委员会的评审证明,才会考虑是否发表。

随着大数据、云计算、人工智能、物联网现在发展非常的快,在各界各类教育领域中应用的非常的广泛,这些新兴的技术对教育的公平,提高教育质量,为学习者提供一体化、智能化、个性化精准的服务,提供了很好的前所未有的契机。新兴技术在教育中的运用会不会带来现在新的伦理方面的问题?我们很高兴请到四位嘉宾来分享他们的观点。

首先我们请西安交通大学郑校长发表自己的观点。有请郑校长。

郑庆华:谢谢张院长。各位嘉宾,大家好。我想科技和教育的融合一定是未来推动教育信息化、现代化、智能化、个性化、国际化的基础支撑手段。任何科技技术跟任何事物一样都有两面性,科技给我们教育带来现代化、智慧化的同时它也带来了新的管理,包括伦理、道德、新的社会秩序的影响。所以趋利避害,谋划严重我认为是十分必要的。在教育和科技融合当中,其实它实际上是怎么样对产生的数据进行分析利用,这是一个根本性的问题。

我们知道所有的行为都会产生证据,也就是说,会留下痕迹,尤其在信息技术时代,我们所做的各种行为和举措,其实都会产生日志,比如说我们上网买了一个东西,上网点了哪门课程,还有像刚才腾讯讲到的在智慧教学当中,在互联网教育当中,我们所有的乃至人脸、表情这些基本的数据都会被采集下来。问题在于这些数据怎么利用?以及它的动机是什么?给我们带来了是正面的还是负面的?这些就是人工智能、大数据新一代信息技术对我们教育的影响和作用的发挥的问题。

我想这里有三个问题需要关注和考虑:

第一,大家要有一种基本的认识,也就是说,我们这个时代随着科学技术变化,大家都要学会或者是要理解在监督下,在有任何行为都要记录的背景下去做事情。这是不以我们意志为转移的。现在大街小巷,各种会议室,教室都有摄像,都有上网的日志记录,所以这个不以我们意志为转移的客观现象。

第二,我觉得一定要在教育领域一定要从善,要正面引领。也就是说,我们要把科学技术正面地应用到教育当中,而不是去真正是去研究人的隐私,伦理这些问题。也就是说,我们要让科学技术真正服务于教育人,引导人,引领人这个方向发展。

第三,我觉得在新的历史时代,从作为国家层面也好,作为教学大学也好,一定要研究新的时代背景下新的科学技术条件下,隐私的新的定义,新的范式,它的内涵和外延。另外,要在这个基础上更多地去分析伦理、隐私等等这些问题对我们教育的影响,从而做到有选择地发挥科学技术作用。

主持人(张伟远):谢谢郑先生富有启发的观点。下面请北师大李教授发表自己的观点。

李建会:大家上午好。大会的主题是融合、创新。我们科学技术现在与教育深度融合。现在科学技术在推动教育创新方面可以说起到越来越重大的作用。但是我们知道科学技术是一把双刃剑,它可以给我们带来正面的价值,比如说经济发展、社会进步、文化繁荣等等,但是它也可能会产生很多负面价值,比如说环境污染,比如说温室效应、隐私泄露等等。

同样地,科学技术在教育中应用产生正价值同时也会产生负价值,在多媒体、互联网等技术发展像由过去外面的工具变成重要的手段改造教育,科学技术已经越来越从深入教学,加入教学,变成潜入教学和融入教学。在这种情况下,教育已经越来越离不开技术。离开了电脑,离开了多媒体,在很多情况下教育可能都无法进行,结果技术就逐步由服务者角色转变为控制者角色,有可能出现了过渡依赖技术而产生技术对教育的控制和垄断的情况,一系列负面价值可能就从这个地方产生了。

首先一个负面价值就是师生关系有可能出现冷漠化。比如说多媒体技术、MOOC技术大量使用,使得传统的教师和学生的二元关系变成了教师、机器、学生三元关系,这在空间上限制了师生之间的对话,使得学生无法直接感受教师的情感、态度、价值观。学生逐渐地变为没有感情色彩的信息接受者,这在一定程度上是师生心理距离越来越远,师生关系逐渐冷漠化,教育中的人文关怀受到严重的影响。其次一个负面价值是信息过量和信息污染导致学生压力增大,身心健康的损害。由于互联网、多媒体等强大的展示和传递功能,学生接受的信息大幅度增加,虚假信息泛滥,过失的、冗余的、垃圾的信息到处充斥,色情、暴力、种族歧视、谣言等信息泛滥,导致学习者的压力增大,身心健康受到危害。

另外还有一个负面价值可能是会产生文化霸权。的确一些发达国家和地区利用自己的技术优势对自己的文化和理念进行宣传,对其他国家和地区的人们产生无形的巨大影响,形成文化霸权,达到了文化殖民的目的。

还有一个负面影响是造成教育不公平。刚才我们发言者就说,科学技术发展导致教育公平,我觉得很多情况下是这样,比如说MOOC可以打破阶层和地域限制,快速便捷地获得教育资源。但现代教育技术也可能加剧这种不公平,发达国家和地区的民众可以使用先进的教育技术,而不发达地区可能使用不到的一些技术,从而导致有一个专业术语叫数字鸿沟的出现,教育不公平的现象出现。当然还有其他负面影响,像隐私,刚才两位都谈到人工智能,人工智能促进教育很大发展,但是也会导致隐私很容易泄露,知识产权很容易被盗窃。这里还有很多负面价值不一一说明。这些说明科学技术对教育的影响必须重视这些负面影响,努力减少这些负面影响。这是教育科技工作者必须注意的问题,也是教育科技工作者应该承担的责任。谢谢。

主持人(张伟远):非常感谢李教授提出了一系列带来的伦理方面的问题。下面有请微软的徐博士发表自己的观点。有请徐博士。

徐明强:大家好。我是从微软来的,所以我从技术方面谈一下AI在教育上可能带来一些伦理问题。首先,回应刚才李教授说的公正方面。当然我讲的公正方面跟李教授是一个互补的轴线。首先大家都知道美国独立宣言说,在造物者面前人人平等。后来有人解释了,说当时制定出来的EveryMan的Man指的自由人,不包括奴隶。当然我们今天发现人工智能在这方面也有不公正的地方。比如纽约时报今年2月9号公布了一个结果,说在美国现在最先进的人工智能,人脸识别,发现,如果你是白人女性,把你性别判断错误的错误率是7%。如果你是有肤色的,深色皮肤的女性错误率高到30%。所以人工智能在人种上面还是不公正。在我们教育方面,还会有种种不公正。比如我举个例子,曾经有一个国际学校,它说有一个机器学习演示,可以帮助我们来发现哪一些学生在我们学校里会有好的成绩,希望和微软在一个大会上联合演示,我说把你们数据给我看一下,我的结论就是说你这个最后肯定会造成一些不公正的结果,你最后出来说,有钱的、父母留过洋、在我们学校学习的好,这个肯定不公正的,微软肯定不会同意你这样的立场的。所以我当时不同意这样去跟它做这样的演示。所以这是公正方面会有这样的伦理问题。

下面我谈谈包容性。微软过去在技术上吃过这个亏,我们第一款Xbox游戏机出去后在日本卖的非常差。后来人家说为什么卖的这样差呢?就是因为我们control控制器做的太大了,亚洲人的手握起来不舒服。但是第一款Xboe都是白人,他们的手特别大,所以他觉得握的很舒服。所以大家看到如果不包容的话,在技术上造成这样的问题。我觉得在教育上这样的包容性会造成什么样的问题,刚才李教授讲到文化,文化的差异化就特别好。西方人如果对一些教育工具,互动性非常好,中国的学生可能因为文化关系,问题不会经常举手发言。我知道我上学的时候,我那个中学有一个老师,大家对他蛮有意见,他经常上课的时候说懂了吗?几个反应快的说懂了,就过去了。所以真正人工智能设计上,在包容性上也应该引起注意。

第三个我就谈到在透明度上为什么会引起一些伦理问题呢?还是从大家熟知的围棋,现在人工智能的围棋都非常厉害,我们的围棋国家队都是用腾讯的决议来训练,决议现在还是现在人工智能的冠军,但是跟阿尔法狗没有下过,基本让职业棋手两个子是可以胜率非常高。所以成为国家队教学工具。但是这个在透明性上有什么问题呢,它光说这步走的好,它讲不出来为什么走的好。它有一个建议出来,但是问为什么它真的不知道,所以这样会引起问题。试想,以后人工智能的工具变成了一个辅助教学的东西,它说对这样的孩子应该用这样的教学方法,当你问它为什么的时候却说不出来。将来对应付审计等等这些我觉得都是一个很大的障碍。

主持人(张伟远):谢谢徐博士从技术专家角度从技术方面跟大家分享这个观点。下面请工信部李主任发表自己的观点。有请李主任。

李德文:主持人好,大家好。很高兴参加今天的论坛。最近大家知道一个焦点话题,就是学术伦理问题。我觉得这次的论坛,咱们这次主题可以说是有先见之明。之所以说科技+教育能不能产生伦理的问题?我倒觉得,与其这么说,还不如说互联网+教育产生的伦理问题。因为科技手段说实话这些年一直在用,也包括刚才李老师讲的,用幻灯片等等手段,这些手段一直在用,但是为什么直到今天在产生了伦理问题呢?主要是互联网的使用,大数据、人工智能、云计算等等,产生了大家这种新的思考。并且我觉得其他的手段也是有着深厚的互联网基因的。所以我讲主要是互联网的应用所产生的一个伦理的问题。

今天到这里来首先一个共识,就是要不要在教育领域引入互联网应用?我想这个应该是共识,这是不需要的,不需要讨论的。因为互联网是当今最大的一个发明。习近平总书记也这么讲。它最大的特性就是打破时空的限制,使用了信息流传递。而咱们的教育恰恰属于信息的传递、知识的传递。互联网恰恰是这样的平台,所以这是互联网最适合发挥作用的领域之一。原来小平同志也讲过,教育要面向现代化。这个面向其实指的就是利用现代化。我觉得与别的领域来讲是最适合,包括通讯和新闻,和这些方面来讲互联网用的还是远远不够。

第三,由于互联网的应用带来了很多伦理的问题,这个有很多,刚才几位同志都讲了。大家看了我的简历,我常年在政府机关工作,所以我可能主要从行政角度来谈一谈我自己的看法。大家都知道,教育是一种公共事业,特别属于义务教育更是国家最基本的公共事业之一。而国家对公共事业基本提法,叫公共服务均等化。至于到教育这个领域就是基本教育服务的均等化。我们也知道,教育有很多目标,均等化只是其中一个目标。我觉得这个目标直指伦理的问题,也就是公平、公正的问题。

所以我讲刚才我们利用这个还远远不够。但是从政府角度,我觉得应该从几个方面来推进这个工作,来促进这个均等化。因为我觉得教育属于知识和信息传递,它对人和物的依赖应该是最少的。当然尤其言传身教,也有一部分,但是对物依赖最少,但是它是最有条件实现教育均等化。从政府部门来讲我觉得三个方面来消除这方面存在的伦理问题,来达到这些目标。因为今天在座的都是在北京,都是在一些大城市,但是中国不只是有北上广深,还有很多老少边穷地区。说北京享受到互联网,贫困地区享受不到,这不叫均等化。

所以国家应该从几个方面:第一,大力加强基础设施建设,能够保证人们能够用得上,用得起互联网。这个可能主要是工信部在推进这方面的工作。我们这些年,有几个事也都听说过,提速降费,宽带中国,到目前可能取得了一些阶段性成果。我们也统计,前一段时间国务院有一个报告,全国现在96%以上的行政村通了光缆宽带。带宽现在美国的测速是平均80兆左右,这在世界上也是排在第十几位,也很靠前的。在自费方面,我们是统计每个人月均消费51元多,这个跟德国基本相当,比美国、日本、韩国这些国家都要低。我们还要大力推进普遍服务,越是贫困地区国家投入越多,那里资费越低。

第二,优质教育资源的供给问题,刚才主席也提了,昨天也有人提到,就是现在北京一些好的学校有优质资源,但是一些老少边穷地区得不到这样的资源。近些年我到一些地区调研过,就是贫困地方,所有地方只要通了宽带了,都把优质教育资源作为当地的一个重要的奋斗目标,也作为它的一个示范应用。但现在存在一个问题,现在主要是自上而下的一种发动方式,作为教育的组织部门怎么用自下而上,作为一个整体联动,这是一个大的问题。

还有教育覆盖的问题,还有组织方式的问题。比如说学而思双师教学,怎么利用线上和线下相结合,线下教师怎么发挥作用,这也是一个需要考虑的问题。

最后,讲讲信息保护的问题。因为互联网和大数据应用,必然大家很多信息,政府部门就是要保证这些信息怎么去不被别人非法获取,怎么能够保护我们所有这些人不会由于这些信息造成额外伤害。这个有关部门也做了很多工作,由于时间关系我就不细讲了。谢谢大家。

主持人(张伟远):谢谢李主任精彩观点。刚才四位嘉宾从技术专家的角度,行政领导管理的角度都来探讨了互联网+教育对教育公平,资源共享,推动智能化教育中间的作用,而且还有巨大的潜力。同时,也提到互联网对我们教育应用中带来的伦理方面的一些问题,大家都认为会带来一系列的新的伦理方面的主题。我下面想请教几位专家,这些伦理方面的问题,提出如何解决的策略和方法,我们首先还是请郑校长。

郑庆华:我是学计算机,刚好在西安交大也是分管人才培养工作,所以技术应用于教育教学管理,提升教育质量,是我们的一个基本的目标和手段。从目前来看,信息技术应用于教育教学主要体现在三个方面:第一个方面,推动教育管理手段的现代化。比如说早上八点钟我就可以知道交大有多少学生还没有到教室,有没有老师迟到,对每堂课,每个老师所有课程都可以全覆盖地实行评教,并且我们还可以及时发现失联的学生,心理比较孤独的学生,受教关系活跃的学生等等,通过大数据平台都可以实现精准的实现。对于提升管理教育教学效率、针对性、个性化起到人工不可替代的重要作用。

第二个方面,在教育内容数字化,智慧化呈现方面也有了好的手段。比如说我们现在提出知识图谱,知识生灵这个概念,也就是把过去离散的只见树木不见森林的碎片化知识融合成为相互关联,层次逻辑清晰的一种知识组织方式。这对我们提高知识获取的效率,有针对性地进行导航学习也起到了非常重要的作用。

第三个方面,测试评价手段的现代化、智慧化改革。现在我们正在承担教育部学生司的一个课堂,就是探讨五年、十年以后,用人工智能技术、虚拟现实、增强现实技术怎么样解决现在只能通过纸和笔来考试的问题。现在我们考试总体还是考知识,而不是考能力。怎么样才能考能力呢?现在的手段还做不到,比如实验设计能力、快速反应能力、一问一答能力我们现在在大规模的高考当中其实很难做到。但是我们相信通过人工智能和虚拟现实这些技术的应用,将来一定会突破考试这个瓶颈。而考试的模式手段的改革一定反过来,倒逼我们中小学真正开始从事走向数字教育这条道路。所以这个是非常意义的事情。

但是要是做到这些事情基础要有一个保障,就是保障师生基本权利,就是隐私,我们所谓伦理这些,这些问题的确需要关注好。解决:一是靠教育,二是靠制度规范,三是靠技术手段。所谓教育,首先我们要让所有的老师和学生知道你的职业操守是什么。比如说我们人事处掌握了全校教师信息,它不可能把这些信息泄露出去。银行系统掌握了企业和公民的存款信息,它也不可能把这个泄露出去。这是通过教育告诉它你的职业操守不能超越底线。现在大数据时代也是这样的,我们的宾馆,我们电子商务平台其实掌握了每个人的隐私,它有这个底线,不能把数据泄露出去,不能作为商业利用。

第二方面,要靠制度来规范。所有的事情最终都要靠法律,制度来保障公民的权利。

第三个方面,我认为技术手段也很好,就是谁操作了这个平台,比如西安交大所有的学生成绩数据全校只有一个人能修改,出了问题,责任就是把的。所有的人登录访问这个平台都会留下痕迹,为事后的找证据,做审计,提供强有力的证据。所以我想教育引领,制度规范保障,以及技术提供手段支撑,这三位一体总体上来说是破解这个问题,让技术真正为教育服务,这是一个非常有效的措施。谢谢。

主持人(张伟远):谢谢郑校长提出制度、规范、教育这么一系列的策略,我觉得非常有启发作用。下面请北师大李教授发表自己的观点。

李建会:大家好。我是从事哲学研究的,曾经编辑过一本书《离散同行》,科技伦理的问题解决,一般来说解决方法是国际通行的叫原则主义。就是提出一些大家公认的一些原则,然后来指导伦理问题的解决。针对我刚才提到的科学技术在教育中的应用的时候产生的伦理问题,我觉得应该有这样解决的原则。首先,要坚持教师的不获取的原则。我们知道教师是教育教学的主导者,教育技术只是工具,因此要坚持教师在教育教学活动中的主导地位,注重师生互动,注重教育理念,注重人文关怀,避免过渡使用技术,被技术控制。

第二个原则,要坚持健康的原则。很多领域的有一条原则,就是不伤害原则。这里我想做一点改造,叫健康原则。也就是说,科学技术在应用教育时努力使得技术不会对教育者造成身心伤害,或者容易时教育者身心健康。再一个原则,我想要坚持有利有效原则,开发科技,要让这些科技有利于教育者和受教育者,造福教育者、受教育者。这样有利有效不仅是短时的,还应该是长期的。是长期的有利和有效。再一个,也是非常重要的,大家都提到的,就是要坚持公平公正的原则,努力使不同地区,不同经济状况的教师和学生尽可能的都使用上新技术,同时避免不能使用新技术就不能进行教育的这种情况出现。所以说教师就非常非常重要。还有就是保护个人隐私,知识产权的原则,大数据、云计算这些技术很容易使个人信息被泄露,也很容易导致知识产前被侵犯,因此科学技术应用到教育的时候要注意保护个人隐私,保护知识产权。以上是我的粗浅看法,谢谢。

主持人(张伟远):谢谢李教授,从一个哲学的角度来探讨这个问题,而且提出的几条基本原则,非常的重要。下面请微软徐博士发表自己的观点。有请徐博士。

徐明强:我也回应一下李教授讲到这个隐私,这是大家关心的一个问题。我介绍一下微软近年来和英特尔做一个合作,就是叫隐私计算。什么意思呢?现在大家迫切想要做的一件事情,就是比如两个学校,它都有不同的数据,如果各自做各自模型训练的话,最后出来的模型都不是非常好。两个学校希望把数据合成到一起,一起做一个训练,但是这个隐私法办不到的。过去是小人爱数据,得之有盗。现在和英特尔做,希望君子爱数据,得之有道。我们做的办法,是可以让数据传输的时候加密,有隐私保护;在存储的时候加密,有隐私保护。但是唯一没有办法在运行的时候对它加密。现在我们跟英特尔合作后,照样可以加密。现在在传输、运算的时候都可以保护。现在可以让两个学校加密在一起,可以训练出更好的模型。所以这是我们一个努力的方向,将来会成为机器学习,阴私计算的一个方向。

我刚才讲到公正性问题,解决方法首先一定要非常仔细地训练数据,看看训练者是否把偏见引入。第二,不希望看到光是互联网公司,就是跨界和教育竞争,这个做教育,做AI应用,一定把教育界专家介入。从包容性方面来说,包容性比较重要的一点是,很多时候机器今天AI它智商很高,但是它同理心没有办法像一个教师这样,所以我们确实担心,没有同理心,教育出来的孩子,我们过去听到他山猿人的故事,害怕孩子机器人一样的思维。所以我想这方面AI更多的开发不光IQ,还有情商的开发。最后到了透明性,透明性的时候就是要把很多的,还是回到刚才数据的搜集采样那边,要更多的从制度上,要把数据本身,不光是要这个数据审查,另外在实际应用当中有反馈的(外语)里要随时发现这个片面的引入。感谢。

主持人(张伟远):非常感谢徐博士,现在他们在技术方面给在保护用户隐私方面做出的一些突破性贡献。

最后请押轴代表工信部的李主任发表观点。

李德文:刚才讲的都很好。但是我觉得技术的进步是一种对社会带来影响最大的一种进步。一种重大的进步也会带来重大的社会变革,比如蒸汽机也好,电也好,现在互联网也好,这种变革是全方位的,深入到社会的各个领域,各个方面,各个角度。至于教育这方面必然带来伦理的问题。这个是我们永远无法能够回避的。

刚才几位专家都讲了,主要现在重点集中在数据保护问题。这个保护涉及到两个方面:一个是资源提供者,包括公共机构也好,比如学校也好,包括像好未来这种商业机构也好,他们掌握这种教育资源,他们有学员,学生数据,他们首先我觉得有两个义务要去做:第一个,他自己要不主动作恶。因为现在工信部打击垃圾短信,诈骗等,很多都是信息泄露。这个泄露是自己内部人卖数据。所以作为资源提供者首先保证自己不作恶。第二,保证采取必要的技术手段,把你产生的数据加密也好,用各种防范措施也好,通过这种防御手段让别人拿不到这个数据,这也是很重要的一个方面。但是这里也离不开监管方的努力,监管方首先有一个定义,叫什么是要保护的数据。这可能通过立法来进一步明确。

第二,作为监管肯定要有效的实行监管的责任,它一定要加强对资源提供者的监督,要求它们一定要加强技术防范,加强伦理的教育,使他们信息不能够泄露出去。

最后,监管者还是加强,打击个人信息,违法犯罪力度,对出现这种行为的,无论是资源提供方主动做的也好,还是外部有人窃取也好,要中重拳出击,使窃取信息的人受到法律的严惩,就是警戒后来者,惩戒犯规者,这个也是监管从两方面对教育+科技带来伦理方面的问题。

主持人(张伟远):感谢李主任给出的实效性的建议。科技是双刃剑,给教育带来的发展的机遇,也探讨了伦理方面的主题。今天四位专家给我们这个主题进行了点题和开始破解这么一个难题,这也是现在国际上讨论非常热烈的一个主题。今天四位专家的启发性精彩的观点给我们研究这个主题提供了一个非常好的方向。让我们共同参与到这个主题的研究。最后我们再一次感谢各位嘉宾的精彩发言。也感谢各位积极参与。

教育+科技的伦理和边界的主题圆桌到此结束了,再次谢谢大家。