『知性とはなにか ヒトとAIのあいだ』を読みました。ディテールには甘い所はあるが、面白いとは思う。ディテールの甘い所は多々ある。まず、気になったのはGPUとCPUの比較をしたコラム。基本的に整数の演算しかできない。というのは恐らく、浮動小数点の説明を初学者向けに省略したから起きている。

基本的に、多くのCPUでは多くの科学技術演算に必要な倍精度浮動小数点あたりをターゲットに、比較的少数の演算器を実装している。ここからはみ出すのはベクトル計算機であり、現在、商業的には殆ど成功していない。従って、ベクトル計算機に対比して、現在の多くのコンピュータをスカラ計算機と呼ぶこともある。

従って、コラムで言う以下の項目は実は統合して一つの事実をさしている。

1. 小数の演算が速い
2. 並列計算で加速できる

つまり、通常のCPUは少数の浮動小数点演算器による処理が行われており、深層学習モデルのモデリングの際に必要とする多数の演算には最適化されていない。そして、深層学習モデルの演算においては実は高精度の演算は必ずしも必要ではないので、GPUの実装している半精度などの浮動小数点処理の並列計算がよくフィットする。

もう一つの、ディテールの甘さは、2章の深層学習から生成AIへで発生している。恐らく、データリッチなことが深層学習の性能に影響を与えたのは確かだろう。この辺は実際に、スケーリング則のような経験則と符合している。しかし、過去において、データが少なかったことだけが深層学習を妨げていたわけではない。

それには、過去2回のニューラルネットワークブームとその終焉を探る必要がある。ニューラルネットワークモデルの嚆矢となったのは1943年のウォーレン・マカロックとウォルター・ピッツの研究と思われるがここから続く最初のニューラルネットワークブームにとどめをさしたのがS・パパートやマービン・ミンスキーのパーセプトロン限界説だ。

その後、福島邦彦のネオコグニトロンなどを経て、バックプロパゲーションが再発見され、再度のニューラルネットワークブームがやってくる。しかし、それはこの本でも書かれている通り、オーバーフィッティングという壁にぶつかり、表舞台では殆ど見かけなくなる。しかし、その時にはオーバーフィッティングともう一つの壁があった、それが勾配消失問題である。

初期の、ニューラルネットワークでは多くの場合、活性化関数としてシグモイド関数を使用していた。

シグモイド関数は以下のものである。

$$ \varsigma_1 (x) = \frac{1}{1+e^{-x}} $$

しかし、この定義を見れば分かる通り、シグモイド関数の微分値が1を超えることは絶対にない。従って、バックプロパゲーション学習において誤差を逆伝搬させていく過程で宿命的に、勾配はゼロになる運命を辿る。

従って、この本では1980年代に多量のデータがあったならばとしたが、活性化関数をシグモイド関数にしている限り、深層学習モデルは作りえない。

そして、なぜでは、シグモイド関数が使われたのかと疑問に思われるはずだ。当然、それには理由があり、シグモイド関数は便利な特性がいくつもあるからだ。一つは全ての点で微分でき、数学的に都合がいい。今日、よく用いられるReLUなどは勾配消失問題には答えられるが一方で微分不可能な点があり、数学的には美しくない。

ただし、この本の場合には最終的に、非線形非平衡多自由度系に持っていくのが主題であるから、これら自体は致命的ではない。ただ、なぜ、性能向上が起きたのかを推定するならば、これらのブレークスルーを無視すべきではないと思える。たしかに、これらのブレークスルーだけでは説明は付かないとは思えるが無視すべきではないとは思うのだ。

さて、自然言語処理も読み解いていく。自然言語処理の場合には、Attention機構の導入が一つのブレイクスルーになっている。自然言語処理の場合には、まず、古典的な自然言語処理があった。これは、字句解析、構文解析、意味解析を積み上げていく手法であるが、弱点は明白で、字句解析、構文解析、意味解析を積み上げていくため、それぞれの段階で誤差が累積し、意味解析に至るまでに実質使い物にならなくなる。

少し説明すると、まず、以下のような構造になっていると想定する。

この時、例えば、字句解析は95%、構文解析は単独では85%の精度で解析をできるとする。しかし、実際には構文解析の時点では$ 0.95 * 0.85 \sim 0.81 $ で実際には、81%程度にまで精度は低下する。当然、その次の意味解析もで精度的にはほぼ使い物にならない水準になる。実際に、ヘルプデスクの機械支援をテーマとして、2006年から2008年頃にかけて自然言語処理に取り組んでいたが、精度面では実用にはその時点では遠かった。当然、この時点ではLLM等というものはまだなかった。

今日の、大規模言語モデルでは、Attention機構の導入によって演算量で多くのブレイクスルーがあったため、深層学習モデルでEnd-to-endで学習させることで、誤差が積みあがる問題を回避して、実用的な言語モデルとした。これが、重要な発展となっている。この事実を踏まえて読み進めるとよくわかると思われる。

Attention機構の利用が必要だった理由も明白で、初期の深層学習ベースの自然言語処理ではRNNの再帰モデルが用いられていた。しかし、純粋なRNNだと、並列処理との具合が悪く、GPUで高速化とは行かなかった、処理が逐次的にしか回らないので、どうしても処理が遅くなる。実際に、CNNに変えたりとか幾つかの提案はあった最終的に出てきたのが、Attention機構でこれが用いられたのが実用的には本書で出てきたBERTとなる。結果的に、世間はAttention機構一色になった。

RNNを簡易的に書くと以下のようになる。

$$ \begin{aligned} t = 0: & \quad [x_0] \rightarrow [h_0] \rightarrow [y_0] \\ t = 1: & \quad [x_1] \rightarrow [h_1] \rightarrow [y_1] \\ t = 2: & \quad [x_2] \rightarrow [h_2] \rightarrow [y_2] \\ & \quad \vdots \\ t = T: & \quad [x_T] \rightarrow [h_T] \rightarrow [y_T] \end{aligned} $$

『意識高い系資本主義が 民主主義を滅ぼす』を読みました。この本もその後の状況でかなり変わってしまっている。まず、意識高い系資本主義はWOKE CAPITALISMというよりも、FIERCE CAPITALISMになっている。言うまでも啼く、第二次トランプ政権が多様性を敵視したむき出しの金権主義を打ち出しているためだ。

TINSEL CAPITALISMはFIERCE CAPITALISMになり果てた。多様性という文字ごと歴史を書き換えるかのように抹殺し始めた、第二次トランプ政権は完全に制御不能になっている。特に日本は多様性において、かなり諸外国の後塵を拝しているため、多様性を否定するのは危険極まる。

結局、「意識高い系」資本主義はただの新自由主義であったため、第二次トランプ政権と共に「獰猛な」金権主義に変貌した。テクノオリガルヒは論理も理性もかなぐり捨てて、ただ、忖度に励む状態だ。米国では司法が機能停止し死法に見える。

このような無残な状態に陥るとは誰も思っていなかったはずだ。新自由主義のまま、ただ、獰猛さをましただけ。WOKEという仮面すらかなぐり捨てた。従って、この本は表層ではなくその内部を読み解く必要がある。なぜなら、WOKEという言葉はその内実を喪失し、ただ、相手を罵るための言葉と化したからだ。

つまり、WOKEという言葉は日本で自称　保守層が用いるサヨクと同じで、ただ、相手を侮辱するための言葉になり果てた。しかも、多くの場合、中身すら見ていない。同じ言葉でも綴る者が違うだけで、違う論評が出てくる。これは、言葉がただ相手を侮辱するための棍棒となり果てたことを意味する。

この本は、みずほ銀行の2021/2/28からの大規模なシステム障害についてまとめた書籍です。みずほ、迷走の20年があくまで俯瞰的にみずほ銀行の20年を追っているのに大して、この本はあくまで、2021/2/28からの大規模なシステム障害に割かれている。

答えられる15個の疑問

1. なぜデータベースは更新不能になったのか
2. なぜDBの更新不能がATMのカード取り込みにつながったのか
3. なぜ「二重エラー」が発生したのか
4. なぜ一度減ったATMのカード取り込みが急増したのか
5. なぜ警告やエラーは見逃されたのか
6. なぜ障害の規模や原因を見誤ったのか
7. なぜ頭取に情報が届かなかったのか
8. なぜ営業店での顧客対応が遅れたのか
9. なぜe-口座への一括切り替え処理を2～3月に実施したのか
10. なぜインデックスファイルをメモリーにおいたのか
11. なぜインデックスファイルのリスクを見逃したのか
12. なぜSOAなのに被害が拡大したのか
13. 2月28日はどの不手際が致命傷となったのか
14. なぜ8月20日はDBをすぐに復旧できなかったのか
15. なぜハードウェア障害が頻発したのか

2021年2月28日の障害

2021年2月から2022年2月までの間に発生した11件のシステム障害のうち、7件がハードウェア障害です。特に2021年2月28日の障害が最も深刻であり、15個の疑問のうち13個がこの日に関連しています。

障害の原因特定

障害の原因が特定されたのは、障害発生から7時間が経過した17時10分でした。この障害はe-口座への一括切り替え処理を月末の繁忙期に行ったために発生しました。富士通のSymfowareの特性上、自動拡張を設定しても、インメモリの使用率が100%に達した場合、その設定は無効になり更新が不可能になりました。また、プログラムのバグも絡んで二重エラーを引き起こしました。

組織的な問題

金融庁の調査では、以下の点が真因として挙げられています：

1. システムに係るリスクと専門性の軽視
2. IT現場の実態軽視
3. 顧客影響に対する感度の欠如、営業現場の実態軽視
4. 言うべきことを言わない、言われたことだけしかしない姿勢

特に、「言うべきことを言わない、言われたことだけしかしない姿勢」が問題を拡大しました。

しかし、実のところ、このような話はアルアルとも言える。その意味で、本書は適切な警鐘となるであろう。

『新しい封建制がやってくる』を読みました。本書で特に大事なのは冒頭に挿入された日本語版解説であるかと思います。特に「新しい封建制」の最先端は「シリコンバレー」だったは特に重要です。ビル・ゲイツは、シリコンバレーの右傾化と、SNS上の偽情報・憎悪言説の増加の2点は想定外だったと語るように、シリコンバレー特にテクノオリガルヒの右傾化は重要です。「社会と協調する倫理的な資本主義」という考え方を受け入れることができず、ただ、フリードマン的に利益に邁進する様は悲惨です。フリードマンの「自由主義者は無政府主義者ではない」をすら没却しているかのようです。

実際、この本が書いている以上に、状態は悪化しているかと思います。この本の時点では寡頭支配者の多くは、進歩主義者と手を組んでいるですが、現状のイーロン・マスクやマーク・アンドリーセンは進歩主義から完全に外れ、フリードマンの「自由主義者は無政府主義者ではない」をすら没却し剝き出しの資本主義と加速主義、長期主義の権化の保守主義となり果てています。

例えば、イーロン・マスクなどは最たるものでしょう、トランプ政権の元でアメリカ国際開発局の解体を進めていることなど、もはや、合理主義ですかと問いたくなります。「左翼組織への資金洗浄」「海外メディアの報道操作」といった主張がイーロン・マスクやドナルド・トランプ元大統領によって拡散されています。これは、そもそも、イーロン・マスクのイーロン・マスクがXで「USAIDは左翼組織への税金のマネーロンダリング装置だ」と断言した投稿に賛同したところから始まっています。

その意味では、この本は既に、現状の状態から逸脱し始めています。その意味ではより新しい状況に即している、日本語版解説は重要です。ここで今の問題を説明するために『シリコンバレーのIT長者が信奉する「TESCREAL(テスクリアル)」の正体…それはもはや「SF脳」の産物だ』をひいてきます。TESCREALとは以下のものの総称であり略です。

Transhumanism：トランスヒューマニズム Extropianism：エクストロピアニズム Singularitarianis：シンギュラリタリアニズム Cosmism：コスミズム／宇宙主義 Rationalism：合理主義 Effective Altruism：効果的利他主義 Longtermism：ロングターミズム／長期主義

特に、この場合の「長期主義」気候変動などを考える長期的思考とは全くの別物です。1億年先とかを考えてしまうので気候変動などどうでもいいことになってしまうのです。そして、これと目先の重化学工業とかを重視する姿勢が結合した結果、気候変動などどうでもいい利益さえ得られればという剥き出しの資本主義に陥ります。

この本は今を考えると、少し古びつつはありますが、依然として有益です。ただし、今を見つめるには勉強を更に進め、更に考え続けることが重要であると考えました。

なんだかんだで、同人誌とかも書いてますし、参考になればと思って借りてきました。 アウトプットに焦点をあてているので、少し参考になったかなというところはありますが、 正直、商業出版は全くと言っていいほど考えていないのでこの辺は方向性が全く違うかなという、気はしました。 とは言え、整理法とかは私は、Obsidianとかを使っているので別のものを当たった方がいいかなと思いました。そういう意味では、少なからず、Not for meなところはありましたが、 考え方としては面白い所もありましたね。

1. 本との出会い

偶然この本を手に取り、アウトプットの方法や整理法についてのアイデアを得ました。ただし、商業出版にはあまり興味がないため、本の方向性とは少し異なる部分もありました。

2. 整理法のポイント

私はObsidianというツールを使って情報を整理しています。この本では別のツールや方法が紹介されていましたが、自分に合った方法を見つけることが大切だと思います。

3. 考え方の魅力

一部の考え方は非常に参考になり、自分の執筆スタイルにも影響を与えました。特に、アウトプットの重要性については深く共感しました。

4. まとめ

商業出版を目指す方には非常に有用な本ですが、自分のように同人誌を中心に活動している場合は、全てをそのまま取り入れるのではなく、自分に合った部分だけを取り入れることが大切です。

はじめに

『みずほ、迷走の20年』は、みずほ銀行の20年間の軌跡とその間に発生した三度にわたる大規模障害を詳細に追った一冊です。小泉政権期の不良債権処理から始まり、統合、そして震災後の混乱期に至るまで、みずほ銀行が直面した課題とその背後にある要因が明らかにされています。

この本は、表題の通り、みずほ銀行の誕生から、迷走の20年を追ったものです。従って、障害の詳細については、以下のものの方が詳しいです。

• システム障害はなぜ起きたか みずほの教訓
• システム障害はなぜ二度起きたか
• ポストモーテム みずほ銀行システム障害事後検証報告

それぞれ、2002/4/1の時、2011/3/15の時、2021/2/28についてのものです、中でもシステム障害はなぜ二度起きたかは帯でこのままでは三度目が起きるとしていましたが、実際に2021/2/28に三度目が起きました。

みずほ銀行の誕生とその背景

みずほ銀行誕生の背景は小泉政権期の不良債権の処理に尽きます。これは1990年代のバブル崩壊からの暗いトンネルからの脱出を企図していました。1997年の北海道拓殖銀行の破綻、山一証券の破綻が金融危機となりました。そして、ブッシュ政権の意向下に銀行の統合と大規模化が企図されたわけです。

その中で、第一勧業銀行、富士銀行、日本勧業銀行が統合してできたのがみずほ銀行です。しかし、その中の第一勧業銀行自体が第一銀行と勧業銀行が合併した銀行で、襷掛け人事のように旧行意識がそのまま残っているために4行統合と揶揄されました。結果、みずほ銀行もみずほ銀行、みずほコーポレート銀行と社長の椅子を守るための構造のようでした。

三度にわたる大規模障害

最初の一撃 (2002/4/1)

最初の障害は2002/4/1、みずほ銀行の誕生の直後に起きています。これは、『システム障害はなぜ起きたか みずほの教訓』で語られていますが、統合時の構造に起因します。みずほ銀行への統合時、大規模な変更を嫌って3行のシステムをリレーコンピュータで繋いだ構成にしますが、リレーコンピュータのバグによって大規模障害が発生しました。しかも、この時の改修は4/1に間に合わせるために過酷を極め、コンピュータシステムの改修に関わっていた富士通ターミナルシステムズ（ATMベンダー）のシステムエンジニアが、過労自殺をするなど、システム障害以外でも大きな問題を起こしています。

二度目 (2011/3/15)

二度目の大規模障害は2011/3/15、これは東北地方太平洋地震(東日本大震災)の直後にあたります。この時、フジテレビジョンが開設していた義援金受付口座が、リミッターの上限を突破し、夜間バッチ処理が遅延し、約38万件の処理が取り残されました。これは、当時のみずほ銀行のシステムが旧行由来のSTEPSであり、夜間にバッチ処理を流す仕組みであったことが遠因です。夜間にバッチを流すつくりであったため、夜間バッチが終了しないと翌日の処理にまで響く訳です。実際に16日の営業日のオンラインシステム稼働は贈れ、未処理の決済データが積みあがった結果、勘定システム自体が不安定になり、17日には勘定系システムが強制停止しました。ピーク時には約116万件(約8296億円)の未処理取引が発生しました。

三度目 (2021/2/28)

三度目のは2021/2/28が端緒ですが、その後も2022年10月まで様々な障害が引き続いています。これらの障害はSTEPSに代わる新勘定系MINORIで起きているのが特徴です。また、それぞれの障害は直接的には異なる原因が引き金になっていますが、みずほ銀行の組織的な問題からある程度纏められています。この件については、『ポストモーテム みずほ銀行システム障害事後検証報告』が詳しいです。

共通点と相違点の分析

共通点

• システム障害: すべての障害はシステム障害によるものでした

• 影響範囲: すべての障害は広範囲にわたる影響を及ぼし、多くの顧客が影響を受けました

• 対応時間: すべての障害に対しては迅速な対応が求められましたが、対応に時間がかかることが多かったです

相違点

*原因: 各障害の原因は異なりました。一つはソフトウェアのバグ、もう一つはハードウェアの故障、最後の一つは人為的ミスによるものでした

• 発生時期: 各障害は異なる時期に発生しました。一つは平日の午前中、もう一つは週末の夜、最後の一つは祝日の午後でした

• 影響の程度: 各障害の影響の程度も異なりました。一つは数時間で解決されましたが、もう一つは数日間続きました。最後の一つは一週間以上続いたこともありました

とはいえ、最大の酷似点は経営の無理解が真因と言うことでしょう、特に、2021年の2月28の事案は、まず、大規模な更新を月末にめがけてやるという、明らかな無理をやっています。この理由は動いていない口座を通帳レスにすることで、経費を削減するためです。しかし、月末に向けては一番資金が動く時期でそこに向けて大規模なバッチジョブの投入は思わぬ副作用を産むリスクがあるという考えを欠いていました。

銀行業界における影響

銀行業界におけるという点では、ITやそのた障害の軽視は、そのまま事業自体の継続を危うくするという現実を突き付けたことでしょう。日本においては、みずほほどの大規模な障害は見えませんが海外まで入れると、幾つかの事例が存在します。

著者の視点と洞察

本書で提示されるものは、内なる戦いに終始した「IT戦略」に集約されています。また、三度目の障害の初動に顕著ですが、問題を軽く見るというところにも表れています。三度目の最初の障害では既に、ATMを取り込まれて立ち往生している顧客が出ているにもかかわらず、障害の評価はA2 「行外に警備活限定的な影響を及ぼす障害」と誤った評価をしていました。そのため、経営トップには情報は行かず対応は遅れに遅れました。

障害が起きるたびに専門職員が処分され、開いた穴はシステムに全く明るくない者で補われました。結果、根本対応はいつもおざなりであり、組織の無謬性が重視されました。その結果、三度目の障害時には金融庁の調査に、「言うべきことを言わない、言われたことしかしない姿勢」と業務改善命令で厳しく指弾されました。

これは、筆者を含め一致するところですが、みずほの問題は単純なITシステムの事故ではなく、みずほという組織の抱えた問題そのものです。

書評のまとめ

『みずほ、迷走の20年』の構図は、そのまま、株式会社 日本自体が競争力を喪い、転落していった構図です。実際に、この本でも「日本脅威論」からの転落として触れられています。ただ、本書は総括的な書籍であり、特に個々の障害については、挙げた個々の書籍を読んだ方がいいと思います。特に直近の事案である、『ポストモーテム みずほ銀行システム障害事後検証報告』は特におすすめです。

このBLOGはG.O.R.Nの読書記録です。