ブログ

Blog

絞り込んで表示する

2018.10.16 - 

MAGELLAN BLOCKSを利用する上で文字コードのお話し

グルーヴノーツ コンサルタントの吉村です。
今日は 文字コード に関するお話です。 なるべく易しくお伝えするために文字コードに詳しい方からすると端折ったり不適切な説明が含まるかもしれませんがご容赦ください。

少しややこしい説明が続きますが、「普段ExcelなんだけどMAGELLAN BLOCKSでどうしたらいいの?」という方は、 後半の UTF-8のCSVファイルの作り方へ へスキップしてください。


文字コードについて

文字コード という言葉を初めて聞く方もいるかと思いますが、 文字化け であれば聞いたこと・見たことがあるのではないかと思います。 乱暴に表現すると日本語しかわからない人に英語で話しかけちゃうと文字化けが起こります。 コミュニケーションとは相手(システム)が分かる言葉(文字コード)でやりとりする必要があります。

また文字コードには何種類もありますが、ここでお話しするのは大きく3種類です。

  • ASCII:英数文字と半角の記号だけの文字コードです
  • UTF-8:世界中で標準的に利用されている文字コードで、日本語・ハングルなどいわゆる半角で表現できない文字を取り扱うことができます
  • Shift-JIS(以後SJISと表記):最初?に日本語に対応した文字コードですが、現在では非常に日本のエンジニアを困らせています。

MAGELLAN BLOCKS(および多くのWebアプリケーション)はASCIIおよびUTF-8に対応しています。

そしてこの3つの文字コードは包含関係が存在します。

上図で見ていただいた通り実は英数記号部分はUTF-8もSJISも同じでASCIIの範囲内何です。 これまで私のハンズオントレーニングに参加いただいた方は「晴,曇,雨,雪は1,2,3,4にしちゃって下さい」と 言うのを聞いたことがあるかと思います。あれは 英数にすればASCIIなのでUTF-8として取り扱える からなんです。


BOM(ボム)について

BOM(バイトオーダーマーク)は文字コード以上に聞いたことがない人が多いと思います。 ITエンジニアでも知らない人が多いです。 これはUTF-8には無くてもいいものなのですが、Microsoft Excelが「BOMが無いとヤダヤダ」とワガママを言うのでちょっと知られてきました。

BOMに関して大事なことは
・ほとんどのUTF-8対応アプリケーションはBOMがいらない
・Excelが出力したUTF-8のCSVはBOMが付いている

ちなみにBOMは何のためのものかと言うと覚えなくてもいいのですが、UTF-16のような1文字が2Byteのデータで、 1Byte目と2Byte目のセットの仕方をどっちの順にするかを表現している制御データです。
(例えば "か" という文字を "KA" と表現するか "AK" と表現するかのようなもの)


実際のデータで見ると

こちらは読み飛ばしてもらっても構いません。「実際どうなってるの?」が知りたい人向けです。

CSVファイルのヘッダーのイメージで "key,あ" というデータがあった場合には下図のようになります。

見ていただくと緑色の "key," のASCII部分は同じコードになっていると思います。 MAGELLAN BLOCKSおよび多くのUTF-8対応アプリケーションでは上図の中段のデータを期待しています。

なお Windowsのメモ帳は絶対使っちゃダメ なやつです。 UTF-8 → 本当はBOM付きUTF-8/Unicode → 本当はUTF-16 Little Endian/Unicode big endian → UTF-16 Big Endianとなっていて、 かなり混乱させるような表現になっていてしかもBOM無しUTF-8が使えないという残念さです。

それでは実際にBOMの付いていないUTF-8のデータをどのように作っていくかをご案内いたします。


BOM無しUTF-8のCSVファイルを作る方法

元データがExcelでBOM無しUTF-8のCSVファイルを作る方法は大きく下記の5つの方法があります。

  1. データに日本語を入れない
  2. Googleスプレッドシートに変換する
  3. シフトJISからUTF-8へ変換ブロックを使う
  4. コマンドラインツールを使う
  5. コマンドラインツールをCloud Shellで使う
1.データに日本語を入れない

ここまで読んでいただいた方には方法って言うほどでもないのはお分りいただけると思います。 日本語が入っていないデータ(英数半角記号)のデータはASCIIですがUTF-8でもあるのでそのままExcelから名前をつけて保存でCSVとして保存してもらって大丈夫です。



2.Googleスプレッドシートに変換する

電力需要予測の時にもチラッと書きましたが、Googleスプレッドシートにインポートすると自動的に文字コード変換してくれます。 あとは形式を指定してダウンロードの中からカンマ区切りの値を選択するとBOMなしUTF-8のファイルがダウンロードできます。







3.シフトJISからUTF-8へ変換ブロックを使う

MAGELLAN BLOCKSのフローデザイナーに シフトJISからUTF-8へ変換ブロック というブロックがあります。 こちらを使うとシフトJISからUTF-8のBOM無しに文字コードを変換してくれます。 ただしファイルのサイズ制限が 10MB以下 となりますのでご注意ください。

4.コマンドラインツールを使う

若干エンジニア寄りにはなるかと思いますが、実は一番手軽な方法です。 主要なものとして iconvnkf というコマンドがあります。 個人的にはiconvの方がUnix/Linuxならどこでも入ってるので使い慣れてます。 Windowsでインストール可能な方は調べてみてください。 インストールが難しい方はこの後の方法を利用していただければと思います。

iconvの使い方

# SJIS->UTF-8
iconv -f CP932 -t UTF-8 denryoku_utf8.csv

# UTF-8->SJIS
iconv -f UTF-8 -t CP932 denryoku_cp932.csv

nkfの使い方

# SJIS->UTF-8
nkf --ic=CP932 --oc=UTF-8 denryoku_sjis.csv > denryoku_utf8.csv

# SJIS->UTF-8
nkf --ic=UTF-8 --oc=CP932 denryoku_utf8.csv > denryoku_sjis.csv

ここでさらっと CP932 とのを出してしまいましたが、 CP932とはSJISの拡張された文字コードとお考えいただいて差し支えありません。 いわゆる丸で囲った数字やギリシャ数字などの本来SJISでは存在しない文字に対応します。
(逆に言えばWindowsでShift-JISって書いてあってもCP932の事です)

5.コマンドラインツールをCloud Shellで使う

このブログを読んでくださっている方はほぼGCPを触れる環境にある方だと思います。 GCPのコンソールからCloud ShellというLinuxの環境を利用することが可能です。 Linuxの環境なので先ほど紹介した iconvが使えます。 ただ目的のテキストファイルCloud Shellから触るためにGoogle Cloud Storageからコピーを行います。

まずはGoogle Cloud Consoleにアクセスします。 その後、画面右上のCloud Shellのアイコンをクリックします。

Cloud ShellがConsole画面の下側に表示されます。黒い部分ですね。 ここの黒い所の中だけLinuxとして動いているようなイメージです。

この黒い画面のところで下記のようにファイルのコピーと変換を行います。

# GCSからテキストファイルを手元にコピーする
gsutil cp gs://blocks-gn-ysmr-us-central1-data/denryoku/input_sjis.csv .

# SJIS->UTF-8
iconv -f CP932 -t UTF-8 denryoku_utf8.csv

# 変換後のファイルをGCSへコピーする
gsutil cp input_utf8.csv gs://blocks-gn-ysmr-us-central1-data/denryoku/

実際に操作するとこのようなイメージになります。


ここまで案内してきたようにMAGELLAN BLOCKS(だけじゃないですが)で使われるUTF-8のファイルを準備する方法はたくさんあります。 「文字コードが出てきた!ややこしい!無理!」ってならず、ひとつずつやれば難しくないのでぜひ試してもらえたらと思います。