Java理论与实践:用XQuery进行屏幕搜集

Java理论与实践:用XQuery进行屏幕搜集2010-12-20 IBM Brian Goetz上个月，Java 技术讲师 Sam Pullara 向我演示了他最新的支持 Java 的电话 Nokia 6630。这个手机使用了全面的技术 —— 嵌入式 JVM、GPRS 和蓝牙，但是它也遭遇了所有智能手机都苦恼的问题 —— 有限的屏幕实际使用区。有些 Web 站点支持基于手机的浏览器，而且嵌入式浏览器也试图在小小的屏幕上有效地渲染页面，但是，在电话屏幕上查看典型的 Web 页面，就像要把一头大象强行塞进车后座一样（其中的每个参与者都会感到失望，包括您、车和大象）。 Sam 构建了一个简单的、优雅的解决方案，从他喜欢的 Web 站点上对数据进行屏幕搜集，然后把数据重新格式化，在小屏幕上显示。

新方法

从 HTML 文档提取数据的方法有许多种，但是我真的很喜欢 Sam 采用的方法：既把 XQuery 当作屏幕搜集工具（从页面中提取相当的数据），又把它当作样式表工具（重新格式化数据，以便数据适应页面，不需要进行页面滚动）。只要少量基础设施和一些非常简单的 XQuery 表达式，就可以从大量数据源提取出相关数据 —— 例如交通、天气和财务报价等，并在电话上完好地显示数据。

我过去经常处于这种情况：对 HTML 页面进行屏幕搜集对某些特定问题来说似乎是可行的方案，但是几乎没有用于屏幕搜集的 Java 工具包。有许多 HTML 解析工具，但它们通常缺少足够的抽象能力（把屏幕搜集代码弄得乱七八糟），大量不符合 HTML 规范的应用限制了它们，它们也无法处理那些结构可能随时间发生变化的、动态生成的页面。

为了弥补质量低下的 HTML 和丰富的 XML 处理工具之间的空白，首先要把 HTML 转换成 XML。许多工具有助于完成这项工作；JTidy 工具包做得很好，可以使这项工作变得轻松一些。JTidy 的设计目标是读入典型质量（即很糟）的 HTML 并输出更整洁的结果（有选项可供选择），它还提供了一个 DOM 接口，用来遍历能够发送给 XML 解析器的 HTML 文档。清单 1 中的代码将从 InputStream 中读取 HTML 文档，并生成文档的 DOM 表示：

清单 1. 用 JTidy 把 HTML 转换成 XML 兼容的 DOM

Tidy tidy = new Tidy（）;
tidy.setQuiet（true）;
tidy.setShowWarnings（false）;
Document tidyDOM = tidy.parseDOM（inputStream, null）;

用这个简单的转换，就差不多能把每个 Web 页面都当作 XML 文档进行处理，还能用自己喜欢的任何 XML 工具（比如 SAX、XSL、XPath，等等）提取数据。虽然 XSL 可能是很明智的选择（因为其设计目标就是为了从 XML 文档中提取信息并转换这些信息，以便显示它们），但是如果不了解 XSL 的话，它的学习曲线就很难掌握，即使是最简单的 XSL 转换也复杂得让人心烦。XPath 是处理信息提取的一个好选择 —— XSL 和 XQuery 都用它进行内容选择，可以很容易地使用 XPath 把需要的数据提取出来，然后对 HTML 进行格式化，但是 XQuery 会让这项工具更加容易。

XQuery：简介

XQuery 的设计目标是从可能非常大的 XML 数据集中提取数据。输入的数据集不必是 XML 文档，虽然它可能是 XML 文档，但是也可能是已经编入索引并保存在 XML 数据库中的文档集合，甚至是一组关系数据库中的表。像 SQL 一样， XQuery 包含从多个数据集中提取数据、汇总数据、聚合数据和连接数据的函数。

就像 JSP、ASP 或 Velocity 这样的表示性模板语言一样，XQuery 把两个域（表示域和计算域）中的元素组合成一种组合语法。结果，所有 XML 文档都自动成为有效的 XQuery 表达式，并对自身进行评估。XQuery 还包含一些语言语句（language statement），例如“for”和“let”，它们可以与 XML 元素混合使用。

清单 2 显示了一个示例 XML 文档 bib.xml，它表示一个书目。然后我们将介绍一些快速的 XQuery 表达式，让您对 XQuery 能够做什么形成一种认识，最后我们将再转到屏幕搜集的示例上。要全面介绍 XQuery 的语法和使用情况可能要用几百页的篇幅，有关更详细的参考材料和示例，请参阅参考资料小节。

清单 2. 示例 XML 书目

<bib>
   <book year="1994">
     <title>TCP/IP Illustrated</title>
     <author><last>Stevens</last><first>W.</firs t></author>
     <publisher>Addison-Wesley</publisher>
     <price> 65.95</price>
   </book>
   . . . more books . . .
</bib>

清单 3 显示了一个 XQuery 表达式，它选择 Addison-Wesley 在 1991 年以后出版的所有书籍，提取它们的标题，并把标题格式化成前面有项目符号的（<ul>）列表。大括号表示从“表示模式”（数据直接传递到输出，例如 <ul> 和 <li> 标签）到“代码模式”的切换；然后在 return 子句之后立即进行从“代码模式”到“表示模式”的隐式切换。

清单 3. 根据查询参数选择图书标题的 XQuery 表达式

<ul>
{
  for $b in doc（"bib.xml"）/bib/book
  where $b/publisher = "Addison-Wesley" and $b/@year > 1991
  return
   <li>{ data（$b/title） }</li>
}
</ul>