你的位置:首页 > 操作系统

[操作系统]percent


原文地址:http://www.imkevinyang.com/2009/08/详解javascript中的url编解码.html

 

摘要

  • URI(统一资源标识)编解码
  • 为什么需要编码 
  • 哪些需要编码
  • 如何编码

 

预备知识

   foo://example.com:8042/over/there?name=ferret#nose  
   \_/  \______________/ \________/\_________/ \__/  
    |          |              |         |        |  
 scheme    authority        path      query   fragment

  上面为典型的URL的格式。由于URL属于URI的一种,所以下面提到的URL编码,实际上应该指的是URI编码。

 

为什么需要URL编码?

  通常如果一样东西需要编码,说明这样东西并不适合传输。原因多种多样,如:内容Size过大、包含隐私数据等。

  URL的编码原因是因为URL中有些字符会引起歧义。例如:URL参数字符串中使用键值对(key=value)的方式来传参,键值对之间以&符号分隔,如"/s?q=abc& ie=utf-8"。如果value字符串中包含了'='或者'&',那么势必会造成接收URL的服务器解析错误,因此必须将引起歧义的'='或者'&'符号进行转义,也就是对其进行编码。

  又如,URL的编码格式采用的是ASCII码,而不是Unicode,所以你不能在URL中包含任何非ASCII字符,例如中文。否则如果客户端浏览器和服务端浏览器支持的字符集不同的情况下,可能会造成问题。

  URL编码的原则就是使用安全的字符(没有特殊用途或者特殊意义的可打印字符)去表示那些不安全的字符。

 

哪些字符需要编码?

RFC3986文档规定,URL中只允许包含英文字母(a-zA-Z)、数字(0-9)、4个特殊字符(- _ . ~)以及所有保留字符。

  RFC3986文档对URL的编解码问题做出了详细的建议,指出了哪些字符需要被编码才不会引起URL语义的转变,以及对为什么这些字符需要编码做出了相应的解释。

  URL中只允许使用可打印字符。US-ASCII码中的10-7F字节全都表示控制字符,这些字符都不能直接出现在URL中。同时,对于80-FF字节(ISO-8859-1),由于已经超出了US-ACII定义的字节范围,因此也不可以放在URL中。

  保留字符。URL可以划分成若干个组件:协议、主机、路径等。有一些字符(:/?#[]@)是用作分隔不同组件的。例如:':'用于分隔协议和主机,'/'用于分隔主机和路径,'?'用于分隔路径和查询参数,等等。还有一些字符(!$&'()*+,;=)用于在每个组件中起到分隔作用的,如'='用于表示查询参数中 的键值对,'&'符号用于分隔查询多个键值对。当组件中的普通数据包含这些特殊字符时,需要对其进行编码。RFC3986中指定了以下字符为保留字符:

!*'();:@&=+$,/?#[]

 

  不安全字符。还有一些字符,当他们直接放在URL中的时候,可能会引起解析程序的歧义。这些字符被视为不安全字符,原因有很多。

空格
在传输、用户排版、文本处理程序处理URL的过程中都有可能引入无关紧要的空格或者去掉了有意义的空格
引号以及<>引号和尖括号通常用于在普通文本中起到分隔Url的作用
#通常用于表示书签或者锚点
%百分号本身用作对不安全字符进行编码时使用的特殊字符,因此本身需要编码
{}|\^[]`~某一些网关或者传输代理会篡改这些字符

 

  注意:对于URL中的合法字符,编码和不编码是等价的,但对于上面提到的这些字符如果不经过编码,那么它们有可能会造成URL语义的不同。因此对于URL而言,只有普通英文字符和数字,特殊字符$-_.+!*'()还有保留字符,才能出现在未经编码的URL之中。其他字符均需要经过编码。

  但是由于历史原因,目前尚存在一些不标准的编码实现。例如对于'~'符号,虽然RFC3986文档规定,对于波浪符号~,不需要进行URL编码,但是还是有很多老的网关或者传输代理会。

 

如何对Url中的非法字符进行编码?

  URL编码通常也被称为百分号编码(Url Encoding,also known as percent-encoding),是因为它的编码方式非常简单,使用%百分号加上两位的字符(十六进制0~F)。URL编码默认使用的字符集是US-ASCII。例如 a 在US-ASCII码中对应的字节是0x61,那么URL编码之后得到的就 是%61,我们在地址栏上输入http://g.cn/search?q=%61%62%63,实际上就等同于在google上搜索abc了。又如@符号在ASCII字符集中对应的字节为0x40,经过URL编码之后得到的是%40。

  常见字符的URL编码列表:

保留字符的URL编码
!*"'();:@&
%21%2A%22%27%28%29%3B%3A%40%26
=+$,/?%#[]
%3D%2B%24%2C%2F%3F%25%23%5B%5D

 

  对于非ASCII字符,需要使用ASCII字符集的超集进行编码得到相应的字节,然后对每个字节执行百分号编码。 对于Unicode字符,RFC文档建议使用utf-8对其进行编码得到相应的字节,然后对每个字节执行百分号编码。如:"中文"使用UTF-8字符集得到的字节为0xE4 0xB8 0xAD 0xE6 0x96 0x87,经过URL编码之后得到"%E4%B8%AD%E6%96%87"。

  如果某个字节对应着ASCII字符集中的某个非保留字符,则此字节无需使用百分号表示。 例如:"URL编码",使用UTF-8编码得到的字节是0x55 0x72 0x6C 0xE7 0xBC 0x96 0xE7 0xA0 0x81,由于前三个字节对应着ASCII中的非保留字符"URL",因此这三个字节可以用非保留字符"URL"表示。最终的URL编码可以简化成"URL%E7%BC%96%E7%A0%81",当然,如果你用"%55%72%6C%E7%BC%96%E7%A0%81"也是可以的。

  由于历史的原因,有一些URL编码实现并不完全遵循这样的原则。

 

其他和URL编码相关的问题

  对包含中文的URL的处理问题,不同浏览器有不同的表现。例如:对于IE,如果你勾选了高级设置"总是以UTF-8发送URL",那么URL路径部分的中文会使用UTF-8进行URL编码之后发送给服务端,而查询参数中的中文部分使用系统默认字符集进行URL编码。为了保证最大的互操作性,建议所有放到URL中的组件全部显式指定某个字符集进行URL编码,而不依赖于浏览器的默认实现。

  另外,很多HTTP监视工具或者浏览器地址栏等在显示URL的时候会自动将URL进行一次解码(使用UTF-8字符集),这就是为什么当你在 Firefox中访问Google搜索中文的时候,地址栏显示的URL包含中文的缘故。但实际上发送给服务端的原始URL还是经过编码的。你可以在地址栏上使用Javascript访问location.href就可以看出来了。在研究URL编解码的时候千万别被这些假象给迷惑了。