返回

穿越:2014林灰

首页
关灯
护眼
字体:
第153章 大洋彼岸的邀约
上一章 目录 下一章
『章节错误,点此报送』
  的是马上吃透的话,能加速近一年时间。

  如果这些研究团队花了两三年才搞定相应的进展,那反而是拖累他们正常的进度了。

  抛开生成式文本摘要这个专利不谈。

  仅仅是林灰在弄生成式文本摘要时顺手牵羊搞定的那个LH文本摘要准确度衡量模型也够牛掰的了。

  如果这项技术能够被这个时空的研究团队所掌握的话,对于他们的研究也是有所助力的。

  尽管林灰当初就把如何构建模型表达的已经足够清楚,就差手把手教了。

  (构建模型的话首先要运用语言模型来评估算法生成语言的流畅度,然后使用相似度模型评估文本和摘要之间的语义相关性,最后为了有效评估实体、专有词的复现程度,引入原文信息量模型来评估)

  但此时的研究人员似乎仍然很好奇林灰是怎么构建这一衡量标准的。

  林灰记得先前伊芙·卡莉在他发的邮件中就表达了对于“LH文本摘要准确度衡量模型”究竟是如何构建的困惑。

  林灰记得伊芙·卡莉当初除了好奇林灰是怎么搞定语料库这个问题之外。

  其困惑主要集中在林灰究竟采用什么方法架构相似度模型的。

  当知道世界最顶尖学府附属的研究机构的科研人员居然好奇这事,林灰还是意外的。

  林灰踌躇满志地盖了一个“华丽的房子”。

  原本以为这个时空人们会好奇林灰是怎么盖出这个房子的。

  没想到反倒先被问道盖房子的木头是从哪开采的?

  这就是林灰当初收到伊芙·卡莉邮件时的直观感受。

  不过如果诚如伊芙·卡莉在邮件里介绍的那般,林灰也能理解伊芙·卡莉为什么困惑。

  涉及到相似度模型的架构一般都是通过计算的方式。

  通过计算语义文本相似度以衡量这两个文本的语义相似度。

  一般来说,语义相似度值越小,两个文本之间的语义差异越大,它们在语义层面的相似度越低;

  反之,该值越大,两个文本表达的语义越相似。

  或许在人们看来,区分相似文本是很简单的一件事情啊?

  这不是随便读一下就能搞定么?

  但是要知道区分相似文本不是要人来区分,而是要机器区分相似文本。

  涉及到相似度模型的构建确实不是容易的事情,毕竟人类语言表达是极其复杂的。

  更遑论大部分专业性比较强的文章里文本中还存在许多同义词、缩略语、特指词和多变的句法结构。

  这些都极大地增加了计算文本语义相似度的难度。

  但这个问题不解决不行,林灰知道计算文本语义相似度是一个很重要的分支领域。

  在信息检索领域,语义文本相似性计算在文本分类、文本聚类和实体消歧等任务中发挥着重要作用;

  在人工智能领域,也需要语义文本相似性算法来支持问答系统和智能检索等任务。

  此外,语义文本相似性计算也被广泛用于自然语言处理任务中,如抄袭检测、文本总结和机器翻译。

  总之,对语义文本相似性算法为代表的相似度模型研究具有重要的应用价值。

  如果不解决计算文本语义相似度这个问题的话,跟别提如何更进一步的文本处理了。

  抛开让机器区分相似文本这个问题不谈。

  仅仅是想要机器识别文本这件事情就极其困难了。

  自然语言一般就是说人类能理解的语言,比如看到的文字就是自然语言。

  但当我们需要机器或者说计算机处理自然语言时。

  机器/计算机却没办法直接理解这些符号(汉字、字母、标点符号等)。

  这些符号必须先被数值化,然后才能输入计算机进行后续处理。

  仅仅只是数值化之后也用途不大。

  必须引入其他的一些内容来反应出词的属性。

  就像我们不能从一个普普通通的代号知道这串数字究竟表示的是订阅、收藏还是打赏。

  总之,仅仅是一个代号是看不出来每串数字对应的属性的。

  这个问题也是计算文本语义相似度的一个研究热门之一。

  如何表示数值化的自然语言相对应的属性呢?

  研究人员一般做法是将数值化的语言矢量化或者说向量化。

  向量相比于标量的话就是带方向的量。

  事实上这种研究方向并不算新潮。

  林灰记得前世早在1975年,就有研究人员首次提出向量空间模型(VSM),试图利用该模型来处理数值化的自然语言。

  林灰通过搜索相关信息,发现这个时空虽然慢了一点,但VSM向量空间模型这个方法在1977年也被提出来了。

  所谓的VSM模型听起来或许挺高大上的。

  其实没那么复杂。

  其主要思想就是假设一个文本的语义只与该文本中的单词有关,而忽略其语序和单词之间的相互关系,然后通过基于词频统计的方法,将文本映射成向量,最后通过向量间的距离计算以表征文本间的相似度。

  计算两个向量之间的距离?

  这玩意是高中课本上的内容。

  估计高考后脑子里知识还没忘记的一般考生都能拿过来利用这个模型算算文本相似度。

  不过很多高中生学的时候可能根本不知道他们学的这玩意能做这个。

  (ps:……高中学的东西很有用,不要觉得暂时看不到用途就放弃)

  当然,也正是由于该模型简单高效。

  在该模型提出来之后很长的一段时间里,它都是文本相似度计算领域的主流方法。

  但该模型并不是没有缺点。

  基于V
第153章 大洋彼岸的邀约(2/3).继续阅读
《 加入书签,方便阅读 》
上一章 目录 下一章