ひとくち
言葉を味わい、仲間とお互いの毎日を味わう交換日記
プロフィール
福岡大学大学院 工学研究科で、自然言語処理を研究しています。学部1年生から長期インターンに参加し、開発に加えて、営業・マーケティング・採用にも携わってきました。
開発で大切にしているのは、ユーザファースト。「ユーザにとって、本当に価値があるか」「これを使う人が、どう幸せになるか」を考えながら、ものづくりに向き合っています。
知能工学研究室 自然言語処理部門(乙武研究室)
本論文では、有価証券報告書の内容に関するQAタスクにおいて、回答の根拠となる表セルを特定して提示する手法を提案する。提案手法は表を行と列に分割し、質問と各行列を入出力とする二値分類モデルを作成した。各行列の分類結果のスコア値を確信度とみなして確信度の高いスコアを用いて表セルの位置を特定した。また、セル内の値に関する表記揺れをT5で補正することで、回答精度を高めた。実験の結果、90%程度の高い精度でセルの特定ができ、88%の精度でセルの値の表記揺れを修正し質問文に適した回答を行うことができた。また、入れ子構造で同じ内容を複数持つ表では誤りが多い傾向が明らかになった。
本論文ではUFO-2024タスクにおけるFUSINTチームの提案手法と結果について述べる。TableRetrievalタスクでは、有価証券報告書内の特定の表を質問文から検索する手法として、コサイン類似度とリランクを利用した絞り込みと、二値分類モデルによる手法を提案する。約83%の精度を得たが、前処理やセクション予測モデルの汎用化が今後の課題であり、多様な質問形式に対応可能な手法の検討が求められる。TableQAタスクでは、有価証券報告書の表のセルを特定する手法として、表の構造と値の表記揺れの統一に焦点を当てた方法を提案する。本手法の利点として、根拠を可視化できる点が挙げられる。表の行列を分割することで、階層構造を持つ表への対応に課題は残るが、約91%の高い精度でセルの位置を特定することができた。
Google AI Pro以上のプランに入っているとGoogleColabでA100をはじめとするGPUリソースを利用することができます。また、Google ColabのCLIを用いることでローカル環境のコードをColabのセッションで実行できます。これらを組み合わせてLLMのコードを動かしてみました☺️
出先で作業するためにMacBookを持ち運ぶのは面倒に思っていました。iPadでどこまで開発ができるかを試してみました。
ディレクトリに応じてCodexのアカウントを分ける