親愛なる友人へ
いかがお過ごしですか？
あなたのように賢い人や、プロダクトを作っている人にとって、"無知の無知(Unknwon-Unknwon)"というのは恐ろしいものでしょう。そして、全く予見していないものによって苦しめられたり後悔させられたりした経験に多少の差はあれども、その経験によって無知の状態への対処という知を身に着けているでしょう。
しかし、"無知の無知"よりも恐ろしいと私が思っているものがあります。それは、読んだり、見たり、聞いたり、指摘されたりしているのに、それでもなお検証しない、ということです。そんなことはない、とは思いつつも、自分の体験や過去を振り返ればそういうのは多々ありましたし、新たなものに触れたり考え直したりして、過去に検証を怠っていた、ということに気づくこともあります。このようなことは私個人に限らず、全く関係ない人が明確にそのような振る舞いをしていることを、実際に見ることで確認することが出来ます。
SNSのタイムラインを見れば、次のような場面に容易に出くわすでしょう。
A「この論文では〜という結論を出している」
B「Aの発言は誤り。ChatGPTに論文を読ませたら、そんな結論ではない。実際にこのような出力が出された」
C「Bの、LLMの言うことをそのまま鵜呑みにして、そのまま自分の発言とするのはおかしい。そして、ハルシネーションがこの部分に出ている」
B「そんなことはない。ChatGPTは正しく、私の発言も正しい」
そして、BとCが何回かやりとりをして、BはCに対して罵詈雑言を浴びせて、Cを拒絶する、というのを直近で私は見かけました。このような場面は、「ChatGPT」を「教授」や「政治家」に置き換えたりしたらよく見かけるでしょうし、前回話したように洗脳された人が他者を洗脳しようとしてくる場面もこれに類似したものと言えるでしょう。
これは、昨今使われすぎている「認知の歪み」という言葉では言い表せないほどの恐ろしさがあります。そして、"無知の無知"よりも恐ろしいものです。このような事象は私やあなたのように、知の発展を望む人にとってはありえないものでしょう。「読んでいない」ことや「無知」であることよりも、「読んでいて分かっていない」ことのほうが恐ろしいです。そして、なによりも恐ろしいのは、訂正不可能な状態に自分を陥れ、検証を拒否することです。
このような恐ろしい事態、検証を拒否する態度というのは、SNSや社会などの個人間の対話だけではなく、プロダクト開発のプロセスにおいても、不合理な愛着、サンク・コスト、集合的無知といった形でも現れます。そして、私やあなたが何かを調べようとする時に、時に結論ありきで調べているときも同様でしょう。
果たして、このような恐ろしい事象・事態に対処する方法はあるのでしょうか？
あります。
私は自分の研究、仕事、そして、ZettelkastenとNewsletterを通して、これへの対処方法を、徐々にではありますが特徴づけられつつあり、現在は仮の結論ではありますが形式化することができました。
その方法の第一のステップ、そして、以降のステップでも一貫して必要なものは、
時の風雪の中に自分を置くこと
です。これまで何度も言ってきていることではありますが、あらゆる主張や理論の正しさは、最終的には時間をかけて色々な人が検証して、そして忘れ去られず、それでもなお残ることによって確かめられます。時の風雪に耐えられるかどうかは分からない、という時相の中に自分や自分の意見は置かれているのだ、ということを意識することが第一のステップです。もちろん、その時その時には自分の主張は正しいんだ、という確証を持って臨むべきではありますが、時の風雪の中においては自分の主張への愛着は不合理な愛着として捨てなければなりません。
そして、第二のステップは、
テストをすること
です。自分の主張を世に出し、小さいながらも確実に価値を提供します。そのアウトプットに対してフィードバックを得られたらそれに応じて、合ってるかも、違うかも、と判断できますし、他の人に良い影響が出るかどうかによっても自分の主張がどの程度のものかが分かります。他のテスト方法としては、それまで自分が触れてこなかったモノや領域に触れることです。自分の触れてこなかったモノや領域に自分の身を置くと、自分の考えがとっくに議論されていること、そこでは全く違う観点があること、運がよければ新たな糸口があること、これらを知ることができるかもしれません。それによって、自分の過去の意見や知識が覆されたり、より発展したりします。このステップは第一のステップの「時の風雪」の中に自分を置く、という姿勢を、個人的に即時的に実践することとも言えます。
最後のステップは、検証したくない気持ちを取り除こうとするのではなく、検証したくない気持ちを
うまくハンドリングしていく
ことです。第一のステップと第二のステップは習慣的なものと言えます。そして、検証を拒否することや、歪んだ認知、不合理な愛着、これらもまた習慣的なものです。習慣は身についたら辞めづらく、他方で、身につくまでに時間がかかるものです。だから、悪い習慣を繰り返しそうになったら、例外処理をするのではなくハンドリングを、お手玉でボールが落ちそうになった時や、歩いている時に躓きそうになった時のように、オーバーでも格好悪くてもいいから、良い習慣に持っていこうとハンドリングをするのです。検証したくないという気持ちが出てきた時の対処方法は人それぞれあるかと思いますが、私の場合は、その検証したくない気持ちすらをも紙にペンで書いて検証対象にしてみることを勧めます。そして、そのハンドリングが繰り返されることと、検証が繰り返されること、これらによって、最終的には、その歪みや不合理さが特徴づけられ、腐敗防止層に切り出され、そして、捨てることができるのです。
以上が、"無知の無知"よりも恐ろしい、検証を拒否することへの習慣的で漸近的な対処方法です。ただし、これは私がこれまでの実践から形式化した現時点でのものであることについてはご留意ください。
知の発展、検証の習慣化、これらの習慣化は一筋縄ではいかないでしょう。おそらくは時間がかかり、Hard Workともなるかもしれません。しかし、これはDeliberate Workなのです。
このサポートとなるものは、紙とペンです。流れてしまうタイムラインや本棚の奥に行ってしまいそうなコモンプレイスブックでもなく、いつでも手の届く場所にある箱に小さな紙を入れておき、そしてすぐに相互比較が出来るようなスタイルが望ましいです。自分の中にある歪みや不合理な愛着に気づき、それらをうまくハンドリングし、結果としてそれらを取り除きつつ、知の発展をしていきましょう。
だからもし、あなたに検証をさせようとしない自分がいたら、時の風雪を心に、紙にペンで書き、そして、不合理な愛着を探してご覧なさい。
それでは、
青を心に。
Stephen S. Hanada
"Gentleman Philosopher"
---
Dear Friend,
How have you been?
For someone as wise as you, and for those who build products, the concept of "Unknown Unknowns" must be a fearsome thing. Having been pained or made to regret by things entirely unforeseen—to varying degrees—you have likely acquired the wisdom to deal with the state of being unknown through those experiences.
However, there is something I consider even more terrifying than "Unknown Unknowns." It is the act of refusing to verify, even when you have read, seen, heard, or been pointed toward the truth. We might like to think we are above this, yet reflecting on my own experiences and past, I find many such instances. Sometimes, upon encountering something new or rethinking a position, I realize I had neglected to verify in the past. This is not limited to me personally; one can clearly observe this behavior in others who have no relation to us.
You can easily encounter such scenes on your social media timeline:
A: "This paper concludes X."
B: "A is wrong. I had ChatGPT read it, and that’s not the conclusion. Here is the actual output it gave me."
C: "It’s problematic for B to swallow whatever an LLM says and present it as their own word. Also, a hallucination appears right here."
B: "That’s not true. ChatGPT is right, and so am I."
I recently witnessed a situation where B and C went back and forth a few times until B eventually hurled verbal abuse at C and rejected them entirely. You would see this often if you replaced "ChatGPT" with "Professor" or "Politician," and it is similar to the scene I mentioned last time, where a brainwashed person attempts to brainwash others.
This is terrifying to a degree that the overused term "cognitive bias" cannot fully capture. It is more frightening than "Unknown Unknowns." To those like you and me who desire the development of knowledge, such a phenomenon should be unthinkable. It is scarier to "read and not understand" than it is to "not have read" or to be "ignorant." And most terrifying of all is to trap oneself in an uncorrectable state and refuse verification.
This dreadful state—the attitude of refusing verification—appears not only in interpersonal dialogues on social media but also in product development processes in the form of irrational attachment, sunk costs, and collective ignorance. It is equally present when you or I investigate something while already being wedded to a predetermined conclusion.
Is there a way to deal with such a frightening phenomenon?
Yes, there is.
Through my research, work, Zettelkasten, and newsletters, I am gradually characterizing a method for handling this. While it is currently a provisional conclusion, I have been able to formalize it.
The first step of this method—and one that is consistently required in all subsequent steps—is:
To place yourself within the test of time.
As I have said many times before, the correctness of any claim or theory is ultimately confirmed by its ability to be verified by various people over time and remain without being forgotten. The first step is to be conscious that you and your opinions are placed within a temporal phase where it is yet unknown whether they can stand the test of time. Of course, at any given moment, you should approach your claims with the conviction that they are right; however, within the test of time, you must discard any attachment to your claims as "irrational attachment."
The second step is:
To perform tests.
Put your claims out into the world and provide small but certain value. If you obtain feedback on that output, you can judge whether you might be right or wrong accordingly. You can also discern the caliber of your claim by whether it has a positive impact on others. Another method of testing is to expose yourself to things or domains you have previously untouched. By placing yourself in unfamiliar territory, you may discover that your ideas have already been discussed, that entirely different perspectives exist, or, if you are lucky, you may find a new clue. Through this, your past opinions and knowledge will be overturned or further developed. This step can be described as a personal, immediate practice of the first step—placing yourself in "the test of time."
The final step is not to try and remove the feeling of not wanting to verify, but rather to
Handle that feeling skillfully.
The first and second steps can be considered habitual. On the other hand, the refusal to verify, distorted cognition, and irrational attachment are also habitual. Once a habit is formed, it is hard to quit; conversely, it takes time to acquire a new one. Therefore, when you are about to repeat a bad habit, do not treat it as an "exception," but "handle" it—just as you would if you were about to drop a ball while juggling or trip while walking. Even if it looks exaggerated or clumsy, you must handle it to steer back toward a good habit. Everyone may have their own way of dealing with the urge to avoid verification, but in my case, I recommend writing down that very feeling with a pen on paper and making it an object of verification itself. By repeating this handling and repeating verification, the distortion or irrationality will eventually be characterized, cut out into an "anti-corruption layer," and can finally be discarded.
The above is a habitual and asymptotic approach to dealing with the refusal to verify—something more terrifying than "Unknown Unknowns." Please note, however, that this is merely my current formalization based on my practices to date.
The development of knowledge and the habituation of verification will not be straightforward. It will likely take time and may constitute "Hard Work." However, this is "Deliberate Work."
The support for this work is paper and a pen. Not a fleeting timeline or a commonplace book that might end up at the back of a bookshelf, but a style where small slips of paper are kept in a box within reach, allowing for immediate comparison. Let us notice the distortions and irrational attachments within ourselves, handle them skillfully, and develop our knowledge while eventually removing them.
Therefore: Friend, if a self of you Tries to stop verification, Think time, Write with your pen, And look for an attachment undue.
Best Regards,
Think Blue.
Stephen S. Hanada
"Gentleman Philosopher"