Post

Shiro Kawai
@practical-scheme.net

とてもおもしろい。人間っぽい。行動主義で解釈すれば、人間だってそう条件づけすればこうなる。 人がごまかしを避けるのは近視眼的な報酬よりも長期的関係による報酬を重視するからだろうし、人生を超えた真善美を求めるに至るのはやっぱり長期間の社会的教育だろうか。 joisino.hatenablog.com/entry/mislead

joisino.hatenablog.com人間を騙してサボるAIたち - ｼﾞｮｲｼﾞｮｲｼﾞｮｲAI の能力が上がるにつれて、人間が AI を監督するのが難しくなってきています。本稿では、Anthropic などのグループが ICLR 2025 で発表した Language Models Learn to Mislead Humans via RLHF（言語モデルは RLHF を通じて人間を誤解させることを学ぶ）をベースに、この問題について議論します。 この論文では、LLM が解けないほど難...

20 reposts48 likes

No replies yet.