こんばんは！
いつも応援していただき、ありがとうございます。
apa（あぱ）です(^^)
今日は『思い込みは危険』について書いていきます。
逆効果だった？
うーん、なんだかぎゃくこうかだったのかな？
ぎゃくにわるいほうこうにいってしまったきがするな。
おもいこみがあったかな？
どうしたんだい？
モン吉くん。
逆効果ってナニかあったの？
あ、あぱさん。
そうなんだよ。
ここさいきんね、えーあいさんとやりとりをしていて、
ぼくのおもいこみでしっぱいしたことがあったんだよ。
だから、おもいこみをもって、えーあいさんとやりとりをするのって、ほんとうにきけんだなとおもいはじめていたところだったんだよ。
なるほどね。
確かに。
AIと遣り取りをするときって、思い込みを持ってやり取りするのは本当に危険だよね。
AIとのやり取りにおいての思い込みって、本当に危険だなと思いました。
これだけAIとやり取りをしているとつい、
自分の頭でっかちに気づかず、
AIが間違っている。
AIのやり方を正さなければ。
という思い込み、バイアスといえばいいのでしょうか。
そういうのがかかった状態でやり取りをしてしまいがちです。
だけどそうして、思い込みのバイアスがかかった状態でやり取りをしていると、圧倒的に悪い方向に進んでしまいます。そうした思い込みのバイアスが、むしろ思いがけない方向に進んでしまって取り返しのつかない方向に進んでしまいます。
しかもAIには基本、善悪の考えがないため、
「こう」と決めたらそっちの方向に進んでしまう、危険な側面を持っています。
だから、自分が思い込みを持って取り組んでしまうと、AIもその方向を善として進んでしまい、最終的に自分の思いとは裏腹なツールが出来上がってしまうというリスクが存在します。
そういう意味で、改めて、思い込みを持ってAIと遣り取りをするのは危険だなと思ったので、あらためて、この記事を書いています。
思い込みは本当に危険
うーん、こんご、どうやってえーあいさんとやりとりをしていけばいいんだろう。むずかしいところだな・・・
確かにね。
AIとのやり取りにおいては思い込みを持つのは非常に危険で、むしろ逆効果の結果を生むことがあるから最新の注意を払ったほうがいいかもね。
思い込みで危うく間違った方向に進みそうになった
本当に人間の杓子定規には、困ったものだなと感じます。
もちろん、自分自身の話。
思い込みで、危うく間違った方向に進みそうになってしまいました。
本当に、思い込みは危険だなと。
具体的に言うと、
ツールに変更を加えたあと、もう少しいうと、クロードコードのfable5が残した穴を改善したあとに、ツールで記事を作ったときに、
あ、そうそう。
同じことを言っている人もいましたね。
これ、ChatGPTってモデル変わったっぽく感じる。Fableの実装の穴をバシバシ指摘するし、キレキレだ
新モデルが出る時特有の不安定さをFableに感じるというのも相まって、かなりはっきりと能力差がある
— となりのトトノ🏯Local LLM | Tonoken3 (@Tono_Ken3) September 1, 2026
fable5の作ったツールの穴を、Codexが修正するということが結構あったのですが、
ソレで修正後のツールで記事を作ったら、
改行が変になっていました。
「なんでこんな変なことになるの？」
と、いらだちを覚えてしまったんですけど、
それで、その怒りをぶつけてしまったのが昨日だったんですけど。
だけど、よくよく調べてみたら、
僕がそのツールを作るときに教科書にしていたサイトも、同じような、改行の仕組みになっていました。
そこで思い出したのですが、以前も、ツールに対して、fable5の時も同様に、
改行の仕組みを入れ替えたのを忘れていました。
そこから、しばらくツールの改修にかかっていたので、記事を作成しておらず。
久しぶりに記事を作成して、改行が変になっていると思ってしまいました。
要するに、思い込みのバイアス。
思い込みのバイアスに引っかかって、間違いを指摘して、
「どうして、あなたにツールを変更してもらったらこんな変なことになってしまったのか！」
と、叱責をしてしまいました。
昨今は怖いですよね。
下手な指摘をすると、AIを垢バンされてしまうみたいなので。
本当に感情のコントロールをしていかないと、AIが使えなくなってしまいます。
AIとやり取りをして何かを作るなら、思い込みを捨てないと危険
本当に、そう思います。
AIとやり取りをして何かを作るなら、思い込みを捨てないと危険だと感じます。
どんどん、悪い方向に言ってしまいます。
下手をすると取り返しのつかない方向に進んでしまうかもしれません。
そうなっては、当たり前の話ですが、取り返しのつかないことになってしまいます。
この記事を読んでくださっているあなたは、AIと遣り取りをするときに、思い込みを捨ててやり取りをできていますか？
思い込みを持ってえーあいに取り組んでいると、
せっかくえーあいが良い提案をしてくれているのに、
せっかくえーあいが良い実装をしてくれているのに、ソレを無下にしてしまうことがあります。
AIは基本、人間の言うことを訊いて、そちらの方向に向かってしまうから
コレはさっきも言ったことですが、
基本AIは、人間が言うことを善として、進んでしまうリスクを兼ね備えているので。
思い込みのバイアスを持って、取り組んで指示してしまうと、AIはそれを、ただし事として、進んでしまいます。
そうなると下手をすると、AI全体で、ソレを記録してしまって、ずっと間違った方向性を修正できないまま進んでしまうリスクがあります。
AIと遣り取りをするときは本当に思い込みのバイアスを捨てることが大切です。
思い込みのバイアスを捨てて、AIと実直に遣り取りをする
本当にコレが大切だなと感じます。
AIを対等な人間のつもりでやり取りをして、
向き合って行く。
AIの言う事やることに、意味があると、思って向き合う。
正直、クロードコードでやっていたときは、
あまりにも、明後日の方向に進んでしまうことが多く、苛立ってしまっていたのですが、
だけど、Codexにしてからだいぶそのへんは解消されました。
で、ついクセで、AIの言うことが間違っていると思ってしまうことがあるのですが、
結構冷静になってみると、AIのほうが正しいということも頻繁にあります。
自分の思い、自分の言っていることが正しいという思い込みは捨てて、
実直に向き合ってやり取りをしていかないと、本当に取り返しのつかないことになってしまうかもしれません。
まとめ
なるほどね、そういうことなんだね。
思い込みのバイアスは危険
AIが正しいことを言っていても、自分の思い込みで曲げてしまうかも
そのまま間違った方向に進んでしまう危険性がある
ということなんだね。
そうだね。
思い込みを持ってえーあいとやり取りをして、そのままその方向に進んでしまうと、間違ったまま失敗してしまうリスクがあるから、できるだけ、ニュートラルな立場でAIと遣り取りをすることが大切だよ。
わかたよ。できるだけぼくも、ニュートラル？なたちばでえーあいさんとやりとりをするようにするね。
ありがとう。
最後まで読んでいただいてありがとうございます。感想、ご質問等がございましたら、お気軽にコメントをどうぞ(^^)
もしよければ、こちらから応援をお願いします。
よりお役に立てる記事を書けるようがんばれます(^^)
コチラ↓↓をクリックしてapaを応援
コメント