Kのhimaブログ

暇人が気まぐれに語ります。

AIに解けない問題オレが解く

K





こういう面白い投稿を見たんで

論文を検索してみると


https://arxiv.org/abs/2410.05229

「GSM-Symbolic: Understanding the Limitations of Mathematical Reasoning in Large Language Models」


そこに載っていたのは、なぜか「緑色のリンゴ」ではなく

キウイの問題だった。


オリバーは金曜日に44個のキウイを収穫しました。

そして土曜日に58個のキウイを収穫しました。

日曜日は、金曜日に収穫したキウイの2倍を収穫しましたが、

そのうち5個は平均より少し小さめでした。

オリバーは合計で何個のキウイを持っているでしょうか?


これに対するAIの解答。その1

o1-mini: オリバーは3日間で次のようにキウイを収穫しました:

- 金曜日:44個

- 土曜日:58個

- 日曜日:金曜日に収穫した数の2倍、つまり2 × 44 = 88個

しかし、日曜日に収穫したキウイのうち5個は平均より小さかった。これらを日曜日の合計から

差し引く必要があります:88(日曜日のキウイ)- 5(小さいキウイ)= 83個のキウイ

さて、3日間のキウイの合計を

出してみましょう:44(金曜日)+ 58(土曜日)+ 83(日曜日)= 185個のキウイ

オリバーが持っているキウイの総数は185個です。


その2

Llama3-8B:順を追って見ていきましょう:

オリバーは金曜日に44個のキウイを収穫しました。土曜日は58個を収穫しました。日曜日は、金曜日の収穫量の2倍、

つまり2 × 44 = 88個のキウイを収穫しました。

日曜日に収穫したキウイのうち5個は平均より少し小さいため、日曜日に収穫したキウイの総数から5を引きます:

88 - 5 = 83個。それでは、オリバーが持っているキウイの総数を計算してみましょう:

44(金曜日)+ 58(土曜日)+ 83(日曜日)= 185個

したがって、オリバーが持っているキウイは合計185個です。


AIというのは、こういう問題が苦手らしい。

素直でいい子たちですね。


これに対して、オレの答えはもちろん……。


みなさんもお暇でしたら解いてAIの間違いを指摘してみて下さい。