「日本語処理の注意」の版間の差分

提供: dococo wiki
ナビゲーションに移動 検索に移動
imported>Webmaster
imported>Webmaster
11行目: 11行目:
 
[[File:2015-12-31 13-15-19.png|400px]]<br />
 
[[File:2015-12-31 13-15-19.png|400px]]<br />
 
例えば、UTF-8のファイルをパソコンで処理します。パソコンの内部はUTF-8で処理を行い、ファイル出力はSJIS、画面出力はCP932（Windowsの標準出力）。と言うように、どのようなファイルをどのように処理するか正しく考えなければなりません。<br />
 
例えば、UTF-8のファイルをパソコンで処理します。パソコンの内部はUTF-8で処理を行い、ファイル出力はSJIS、画面出力はCP932（Windowsの標準出力）。と言うように、どのようなファイルをどのように処理するか正しく考えなければなりません。<br />
 +
== 簡単なプログラム説明 ==
 +
動作を説明するために簡単なPerl処理と出力について説明する。
 +
----
 +
=== 例１ ===
 +
プログラムは'''Shift-JIS'''で保存<br />
 +
結果
 +
no flag←utf8フラグ判定は'''無し'''
 +
?A?C?E?G?I←UTF-8フラグを外してshiftjisで出力
 +
?A?C?E?G?I←UTF-8フラグを外してcp932で出力
 +
ﾂアﾂイﾂウﾂエﾂオ←UTF-8フラグを外してUTF-8で出力
 +
アイウエオ←そのまま標準出力
 +
 +
当たり前ですが、そもそも'''Shift-JIS'''で保存している文字は'''Shift-JIS'''ですのでそのまま、標準出力される文字が正しく表示されます
 +
 +
<syntaxhighlight lang="perl">
 +
 +
use strict;
 +
use warnings;
 +
 +
#use utf8;#utf8フラグを立てる
 +
 +
use Encode;
 +
 +
my $string = 'アイウエオ';
 +
 +
print utf8::is_utf8($string) ? 'flagged' : 'no flag';
 +
 +
print "\n";
 +
 +
print encode('shiftjis', $string);#UTF-8フラグを外してshiftjisで出力
 +
print "\n";
 +
print encode('cp932', $string);#UTF-8フラグを外してcp932で出力
 +
print "\n";
 +
print encode('utf8', $string);#UTF-8フラグを外してUTF-8で出力
 +
print "\n";
 +
print $string;#そのまま標準出力
 +
print "\n";
 +
</syntaxhighlight>
 +
 +
----
 +
=== 例２ ===
 +
----
 +
プログラムは'''UTF-8'''で保存<br />
 +
結果
 
----
 
----
 
<!-- カテゴリに追加するページ名を記入 -->
 
<!-- カテゴリに追加するページ名を記入 -->
 
[[Category:Perl|にほんごしょりのちゅうい]]
 
[[Category:Perl|にほんごしょりのちゅうい]]

2015年12月31日 (木) 13:37時点における版

Perlによる文字操作

コンピュータでは日本語を表す（記録する）ためには、様々な規格（文字コード）が存在します。システムによってはキャラクターセット等とも言いますが、一例では以下のような規格があります。

  • ISO-8859-1
  • ISO-2022-JP
  • Shift_JIS
  • EUC-JP
  • UTF-8
  • UTF-16

日本語などのマルチバイト文字（文字を複数のバイトで表示する）をPerlで適切に扱うに、どのような文字コードををどのような文字コードで処理して、何処のような文字コードで出力するか。を適切に行わないと「文字化け」になります

処理イメージ

2015-12-31 13-15-19.png
例えば、UTF-8のファイルをパソコンで処理します。パソコンの内部はUTF-8で処理を行い、ファイル出力はSJIS、画面出力はCP932（Windowsの標準出力）。と言うように、どのようなファイルをどのように処理するか正しく考えなければなりません。

簡単なプログラム説明

動作を説明するために簡単なPerl処理と出力について説明する。

例１

プログラムはShift-JISで保存
結果 

no flag←utf8フラグ判定は無し
?A?C?E?G?I←UTF-8フラグを外してshiftjisで出力
?A?C?E?G?I←UTF-8フラグを外してcp932で出力
ﾂアﾂイﾂウﾂエﾂオ←UTF-8フラグを外してUTF-8で出力
アイウエオ←そのまま標準出力

当たり前ですが、そもそもShift-JISで保存している文字はShift-JISですのでそのまま、標準出力される文字が正しく表示されます 

use strict;
use warnings;

#use utf8;#utf8フラグを立てる

use Encode;

my $string = 'アイウエオ';

print utf8::is_utf8($string) ? 'flagged' : 'no flag';

print "\n";

print encode('shiftjis', $string);#UTF-8フラグを外してshiftjisで出力
print "\n";
print encode('cp932', $string);#UTF-8フラグを外してcp932で出力
print "\n";
print encode('utf8', $string);#UTF-8フラグを外してUTF-8で出力
print "\n";
print $string;#そのまま標準出力
print "\n";

例２

プログラムはUTF-8で保存
結果

「https://jm.2-d.jp/index.php?title=日本語処理の注意&oldid=4068」から取得