我需要让 UTF-8 在我的 Java webapp(servlets + JSP,未使用框架)中工作,以支持äöå
常规芬兰文本和西里尔字母等ЦжФ
特殊情况。
我的设置如下:
- 开发环境:Windows XP
- 生产环境:Debian
使用的数据库:MySQL 5.x
用户主要使用 Firefox2,但也使用 Opera 9.x、FF3、IE7 和 Google Chrome 访问该站点。
如何做到这一点?
回答我自己作为本网站的常见问题解答鼓励它。这对我有用:
大多数字符 äåö 不是问题,因为浏览器使用的默认字符集和 webapps 的 tomcat/java 是 latin1 即。ISO-8859-1 “理解”这些字符。
要让 UTF-8 在 Java+Tomcat+Linux/Windows+Mysql 下工作,需要以下条件:
需要配置连接器使用 UTF-8 编码 url(GET 请求)参数:
<Connector port="8080" maxHttpHeaderSize="8192"
maxThreads="150" minSpareThreads="25" maxSpareThreads="75"
enableLookups="false" redirectPort="8443" acceptCount="100"
connectionTimeout="20000" disableUploadTimeout="true"
compression="on"
compressionMinSize="128"
noCompressionUserAgents="gozilla, traviata"
compressableMimeType="text/html,text/xml,text/plain,text/css,text/ javascript,application/x-javascript,application/javascript"
URIEncoding="UTF-8"
/>
上面示例中的关键部分是URIEncoding="UTF-8"。这保证了 Tomcat 以 UTF-8 编码处理所有传入的 GET 参数。结果,当用户在浏览器的地址栏中写入以下内容时:
https://localhost:8443/ID/Users?action=search&name=*ж*
字符 ж 被处理为 UTF-8 并被编码为(通常在浏览器到达服务器之前)为%D0%B6。
POST 请求不受此影响。
然后是时候强制 java webapp 以 UTF-8 编码处理所有请求和响应。这要求我们定义一个字符集过滤器,如下所示:
package fi.foo.filters;
import javax.servlet.*;
import java.io.IOException;
public class CharsetFilter implements Filter {
private String encoding;
public void init(FilterConfig config) throws ServletException {
encoding = config.getInitParameter("requestEncoding");
if (encoding == null) encoding = "UTF-8";
}
public void doFilter(ServletRequest request, ServletResponse response, FilterChain next)
throws IOException, ServletException {
// Respect the client-specified character encoding
// (see HTTP specification section 3.4.1)
if (null == request.getCharacterEncoding()) {
request.setCharacterEncoding(encoding);
}
// Set the default response content type and encoding
response.setContentType("text/html; charset=UTF-8");
response.setCharacterEncoding("UTF-8");
next.doFilter(request, response);
}
public void destroy() {
}
}
此过滤器确保如果浏览器未设置请求中使用的编码,则将其设置为 UTF-8。
此过滤器完成的另一件事是设置默认响应编码,即。返回的 html/whatever 的编码。另一种方法是在应用程序的每个控制器中设置响应编码等。
必须将此过滤器添加到web.xml或 webapp 的部署描述符中:
<!--CharsetFilter start-->
<filter>
<filter-name>CharsetFilter</filter-name>
<filter-class>fi.foo.filters.CharsetFilter</filter-class>
<init-param>
<param-name>requestEncoding</param-name>
<param-value>UTF-8</param-value>
</init-param>
</filter>
<filter-mapping>
<filter-name>CharsetFilter</filter-name>
<url-pattern>/*</url-pattern>
</filter-mapping>
制作此过滤器的说明可在tomcat wiki ( http://wiki.apache.org/tomcat/Tomcat/UTF-8 )中找到
在您的web.xml中,添加以下内容:
<jsp-config>
<jsp-property-group>
<url-pattern>*.jsp</url-pattern>
<page-encoding>UTF-8</page-encoding>
</jsp-property-group>
</jsp-config>
或者,webapp 的所有 JSP 页面都需要在其顶部具有以下内容:
<%@page pageEncoding="UTF-8" contentType="text/html; charset=UTF-8"%>
如果使用具有不同 JSP 片段的某种布局,那么所有这些都需要这样做。
JSP 页面编码告诉 JVM 以正确的编码处理 JSP 页面中的字符。然后是时候告诉浏览器html页面的编码是什么了:
这是通过 webapp 生成的每个 xhtml 页面顶部的以下内容完成的:
<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.1//EN" "http://www.w3.org/TR/xhtml11/DTD/xhtml11.dtd">
<html xmlns="http://www.w3.org/1999/xhtml" xml:lang="fi">
<head>
<meta http-equiv='Content-Type' content='text/html; charset=UTF-8' />
...
使用 db 时,必须定义连接使用 UTF-8 编码。这是在context.xml或任何 JDBC 连接被定义的地方完成的,如下所示:
<Resource name="jdbc/AppDB"
auth="Container"
type="javax.sql.DataSource"
maxActive="20" maxIdle="10" maxWait="10000"
username="foo"
password="bar"
driverClassName="com.mysql.jdbc.Driver" url="jdbc:mysql://localhost:3306/ ID_development?useEncoding=true&characterEncoding=UTF-8"
/>
使用的数据库必须使用 UTF-8 编码。这是通过使用以下内容创建数据库来实现的:
CREATE DATABASE `ID_development`
/*!40100 DEFAULT CHARACTER SET utf8 COLLATE utf8_swedish_ci */;
然后,所有表也需要采用 UTF-8 格式:
CREATE TABLE `Users` (
`id` int(10) unsigned NOT NULL auto_increment,
`name` varchar(30) collate utf8_swedish_ci default NULL
PRIMARY KEY (`id`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8 COLLATE=utf8_swedish_ci ROW_FORMAT=DYNAMIC;
关键部分是CHARSET=utf8。
MySQL serveri 也必须配置。这通常在 Windows 中通过修改my.ini文件来完成,在 Linux 中通过配置my.cnf文件来完成。在这些文件中,应该定义连接到服务器的所有客户端都使用 utf8 作为默认字符集,并且服务器使用的默认字符集也是 utf8。
[client]
port=3306
default-character-set=utf8
[mysql]
default-character-set=utf8
这些也需要定义字符集。例如:
DELIMITER $$
DROP FUNCTION IF EXISTS `pathToNode` $$
CREATE FUNCTION `pathToNode` (ryhma_id INT) RETURNS TEXT CHARACTER SET utf8
READS SQL DATA
BEGIN
DECLARE path VARCHAR(255) CHARACTER SET utf8;
SET path = NULL;
...
RETURN path;
END $$
DELIMITER ;
如果并且当它在 tomcat 的 server.xml 中定义 GET 请求参数以 UTF-8 编码时,则正确处理以下 GET 请求:
https://localhost:8443/ID/Users?action=search&name=Petteri
https://localhost:8443/ID/Users?action=search&name=ж
因为 ASCII 字符的编码方式与 latin1 和 UTF-8 相同,所以可以正确处理字符串“Petteri”。
西里尔字母 ж 在 latin1 中根本无法理解。因为 Tomcat 被指示将请求参数作为 UTF-8 处理,所以它将该字符正确编码为%D0%B6。
如果并且当指示浏览器以 UTF-8 编码(带有请求标头和 html 元标记)读取页面时,至少 Firefox 2/3 和该时期的其他浏览器都将字符本身编码为%D0%B6。
最终结果是找到了所有名为“Petteri”的用户,也找到了所有名为“ж”的用户。
HTTP 规范定义默认情况下 URL 编码为 latin1。这会导致 firefox2、firefox3 等对以下内容进行编码
https://localhost:8443/ID/Users?action=search&name=*Päivi*
进入编码版本
https://localhost:8443/ID/Users?action=search&name=*P%E4ivi*
在 latin1 中,字符ä被编码为%E4。即使页面/请求/一切都被定义为使用 UTF-8。ä 的 UTF-8 编码版本是%C3%A4
这样做的结果是 webapp 完全不可能正确处理来自 GET 请求的请求参数,因为有些字符是用 latin1 编码的,而另一些是用 UTF-8 编码的。 注意:如果页面被定义为 UTF-8,则 POST 请求确实可以工作,因为浏览器将表单中的所有请求参数完全编码为 UTF-8
非常感谢以下作者为我的问题提供答案:
mysql支持使用 3 字节 UTF-8 字符的基本多语言平面。如果您需要超出此范围(某些字母需要超过 3 个字节的 UTF-8),那么您需要使用VARBINARY
列类型或使用utf8mb4
字符集(需要 MySQL 5.5.3 或更高版本)。请注意,utf8
在 MySQL 中使用字符集不会 100% 有效。
另一件事如果您使用的是 Apache + Tomcat + mod_JK 连接器,那么您还需要进行以下更改:
<Connector port="8009" protocol="AJP/1.3" redirectPort="8443" URIEncoding="UTF-8"/>
/etc/httpd/conf
添加AddDefaultCharset utf-8
. 注意:首先检查它是否存在。如果存在,您可以使用此行更新它。您也可以在底部添加此行。httpd.conf file
我认为您在自己的答案中总结得很好。
在端到端的 UTF-8-ing(?) 过程中,您可能还想确保 java 本身使用 UTF-8。使用 -Dfile.encoding=utf-8 作为 JVM 的参数(可以在 catalina.bat 中配置)。
要添加到kosoant 的答案,如果您使用的是 Spring,而不是编写自己的 Servlet 过滤器,您可以使用org.springframework.web.filter.CharacterEncodingFilter
他们提供的类,在 web.xml 中进行如下配置:
<filter>
<filter-name>encoding-filter</filter-name>
<filter-class>org.springframework.web.filter.CharacterEncodingFilter</filter-class>
<init-param>
<param-name>encoding</param-name>
<param-value>UTF-8</param-value>
</init-param>
<init-param>
<param-name>forceEncoding</param-name>
<param-value>FALSE</param-value>
</init-param>
</filter>
<filter-mapping>
<filter-name>encoding-filter</filter-name>
<url-pattern>/*</url-pattern>
</filter-mapping>
我还想从这里添加这部分解决了我的 utf 问题:
runtime.encoding=<encoding>
当我们想使用 Java 访问 MySql 表时,这是针对希腊语编码的:
在您的 JBoss 连接池 (mysql-ds.xml) 中使用以下连接设置
<connection-url>jdbc:mysql://192.168.10.123:3308/mydatabase</connection-url>
<driver-class>com.mysql.jdbc.Driver</driver-class>
<user-name>nts</user-name>
<password>xaxaxa!</password>
<connection-property name="useUnicode">true</connection-property>
<connection-property name="characterEncoding">greek</connection-property>
如果您不想将其放入 JNDI 连接池中,则可以将其配置为 JDBC-url,如下一行所示:
jdbc:mysql://192.168.10.123:3308/mydatabase?characterEncoding=greek
对我和尼克来说,所以我们永远不会忘记它并不再浪费时间......
好详细的答案。只是想再添加一件事,这肯定会帮助其他人看到 URL 上的 UTF-8 编码在起作用。
按照以下步骤在 Firefox 中对 URL 启用 UTF-8 编码。
在地址栏中输入“about:config”。
使用过滤器输入类型搜索“network.standard-url.encode-query-utf8”属性。
URL 上的 UTF-8 编码默认在 IE6/7/8 和 chrome 中有效。
以前的回复不适用于我的问题。它只是在生产中,带有 tomcat 和 apache mod_proxy_ajp。帖子正文丢失了非 ascii 字符?问题最终出在 JVM defaultCharset(默认安装中的 US-ASCII:Charset dfset = Charset.defaultCharset();)所以,解决方案是运行带有修饰符的 tomcat 服务器,以使用 UTF-8 作为默认字符集运行 JVM:
JAVA_OPTS="$JAVA_OPTS -Dfile.encoding=UTF-8"
(将此行添加到 catalina.sh 和服务 tomcat 重新启动)
也许您还必须更改 linux 系统变量(编辑 ~/.bashrc 和 ~/.profile 以进行永久更改,请参阅https://perlgeek.de/en/article/set-up-a-clean-utf8-environment)
导出 LC_ALL=en_US.UTF-8
导出 LANG=en_US.UTF-8导出 LANGUAGE=en_US.UTF-8
我遇到了类似的问题,但是,在我使用 apache commons 压缩的文件的文件名中。所以,我用这个命令解决了它:
convmv --notest -f cp1252 -t utf8 * -r
它对我来说效果很好。希望它可以帮助任何人;)
对于从消息包中显示 Unicode 字符的情况,我不需要应用“JSP 页面编码”部分来在我的 jsp 页面上显示 Unicode。我需要的只是“CharsetFilter”部分。
尚未提及的另一点与使用 Ajax 的 Java Servlet 有关。我遇到网页从用户那里获取 utf-8 文本并将其发送到 JavaScript 文件的情况,该文件将其包含在发送到 Servlet 的 URI 中。Servlet 查询数据库,捕获结果并将其作为 XML 返回到 JavaScript 文件,该文件对其进行格式化并将格式化的响应插入到原始网页中。
在一个 Web 应用程序中,我按照早期 Ajax 书籍的说明来包装 JavaScript 以构建 URI。书中的示例使用了 escape() 方法,我发现(困难的方法)是错误的。对于 utf-8,您必须使用 encodeURIComponent()。
这些天似乎很少有人推出自己的 Ajax,但我想我不妨添加这个。
关于CharsetFilter
@kosoant回答中提到的......
Filter
在 tomcat中有一个内置web.xml
(位于conf/web.xml
)。默认情况下,过滤器已命名setCharacterEncodingFilter
并带有注释。您可以取消注释(请记住也取消注释filter-mapping
)
也不需要jsp-config
在你的web.xml
(我已经为 Tomcat 7+ 测试过)
有时您可以通过 MySQL 管理员向导解决问题。在
启动变量 > 高级 >
并设置 Def。字符集:utf8
也许这个配置需要重启 MySQL。
在 Spring MVC 5 + Tomcat 9 + JSP 上面临同样的问题。
经过长期研究,得出了一个优雅的解决方案(Tomcat server.xml中无需过滤器和无需更改(从 8.0.0-RC3 版本开始))
在 WebMvcConfigurer 实现中,为 messageSource 设置默认编码(用于从 UTF-8 编码的消息源文件中读取数据。
@Configuration
@EnableWebMvc
@ComponentScan("{package.with.components}")
public class WebApplicationContextConfig implements WebMvcConfigurer {
@Bean
public MessageSource messageSource() {
final ResourceBundleMessageSource messageSource = new ResourceBundleMessageSource();
messageSource.setBasenames("messages");
messageSource.setDefaultEncoding("UTF-8");
return messageSource;
}
/* other beans and methods */
}
在 DispatcherServletInitializer 实现中 @Override onStartup 方法并在其中设置请求和资源字符编码。
public class DispatcherServletInitializer extends AbstractAnnotationConfigDispatcherServletInitializer {
@Override
public void onStartup(final ServletContext servletContext) throws ServletException {
// https://wiki.apache.org/tomcat/FAQ/CharacterEncoding
servletContext.setRequestCharacterEncoding("UTF-8");
servletContext.setResponseCharacterEncoding("UTF-8");
super.onStartup(servletContext);
}
/* servlet mappings, root and web application configs, other methods */
}
以 UTF-8 编码保存所有消息源和视图文件。
在每个 *.jsp 文件中添加 <%@ page contentType="text/html;charset=UTF-8" %>或<%@ page pageEncoding="UTF-8" %>或将 jsp-config 描述符添加到 web.xml
<?xml version="1.0" encoding="UTF-8"?>
<web-app xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xmlns="http://java.sun.com/xml/ns/javaee"
xsi:schemaLocation="http://java.sun.com/xml/ns/javaee http://java.sun.com/xml/ns/javaee/web-app_3_0.xsd"
id="WebApp_ID" version="3.0">
<display-name>AppName</display-name>
<jsp-config>
<jsp-property-group>
<url-pattern>*.jsp</url-pattern>
<page-encoding>UTF-8</page-encoding>
</jsp-property-group>
</jsp-config>
</web-app>
如果您已在连接池 (mysql-ds.xml) 中指定,您可以在 Java 代码中打开连接,如下所示:
DriverManager.registerDriver(new com.mysql.jdbc.Driver());
Connection conn = DriverManager.getConnection(
"jdbc:mysql://192.168.1.12:3308/mydb?characterEncoding=greek",
"Myuser", "mypass");