理論物理学に起源を持つゲージ理論を数学的に研究することを中心テーマと している。また、この研究がカッツ・ムーディー・リー環や、その変形と関係 することから、これらの対象の表現論も同時に研究している。 主要な成果として、次のようなものを得た。

・ALE空間とよばれる、複素二次元の単純特異点の特異点解消の上で、 ゲージ群をユニタリ群とするインスタントン方程式の解のモジュライ空間 を考える。この空間は、箙の表現による記述を持つ。[5] この定義 は、より一般の箙に拡張可能であり、箙多様体と名づけた。 そのホモロジー群には、カッツ・ムーディー・リー環の表現が構成され る。[11,12] また、箙多様体の同変K群には、量子ループ 環の表現が構成される。
・$\mathbf R^4$上のインスタントンのモジュライ空間の上で，微分 形式を同変ホモロジーの意味で積分する，Nekrasovの分配関数の研究を行っ ている。特に$\mathbf R^4$の一点ブローアップの上のインスタントンの モジュライ空間との関係を，神戸大の吉岡康太氏との共同研究で詳しく調 べ，分配関数の持ついろいろな性質を導いた。[15,16,17] さらにその結果を用いて$4$次元多様体のDonaldson不変量の性質を調べる ことを，ICTPのL.~Göttsche氏を加えた共同研究で行っ た。[4,5]
・$\mathbf R^4$上のADE型のリー群をゲージ群とするインスタント ンのモジュライ空間を考え、そのUhlenbeck部分コンパクト化をとり、その 同変交叉コホモロジー群を考える。作用する群は $G$ と二次元トーラ ス $T^2$ の積である。この同変交叉コホモロジーの空間に、頂点作用素代 数の例である $\mathscr W$-代数の表現が構成され る。[1]
・コンパクト・リー群 $G$ と、その四元数体上の表現 $\mathbf M$ が与えられ たとき、物理学者は$3$次元の$N=4$超対称性ゲージ理論とよばれる場の量子論 を考え、特にそのゲージ理論のクーロン枝とよばれる、超ケーラー多様体を研 究していた。しかし、その定義には、「量子補正」とよばれる数学的に厳密な 取り扱いがなされていない手続きが含まれており、クーロン枝の数学的な定義 は与えられていなかった。[13]において、数学的に厳密な定義を与える試みを始め た。 2015年度に(A.Braverman, M.Finkelbergとの共同研 究 [2])で$\mathbf M$ が $\mathbf N\oplus \mathbf N^*$ と分解しているという仮定のもとに、上のモ ジュライ空間を若干変更した上で、その同変ボレル・ムーア・ホモロジー群を 考え、この上に可換な積構造を定義した。この可換環の Spectrum として、クー ロン枝のアファイン・スキームとしての定義が与えれたことになる。また、構 成から自然に座標環の非可換変形(量子クーロン枝)が同時に得られる。

以下，昨年度得た研究成果を簡単に紹介する。
・[3] (A.Braverman, M.Finkelbergとの共同研究) 箙ゲージ理論とよばれる、 箙の表現から決まるコンパクト・リー群 $G$ と、 その四元数体上の表現 $\mathbf M$ に対応するクー ロン枝の研究を行った。特に、箙が有限$ADE$型のときには、クーロン枝は対応 するアファイン・グラスマンの切断、およびその一般化になることを示した。 また、論文のAppendix (さらに、J.Kamnitzer, 小寺諒介, B.Webster, A.Weekesを 著者に加えて書かれた) では、量子クーロン枝を研究し、shifted Yangianとよ ばれる、代数との関係を明らかにした。
・[14] (高山侑也との共同研究) アファイン A型の箙ゲージ理論に対するクーロン枝が、Cherkisが導入した弓箭多様体 (bow variety)と同型になっていることを証明した。
・[7] (小寺諒介との共同研究) Jordan箙に対応する、量子クーロン枝を調べ、有理Cherednik代数のspherical部分と一致していることを証明した。
・[6] (N.Guay, C.Wendlandt との共同研究) 以前に行ったGuayとのアファインYangian代数の余積の定義を、Wendlandtとともに完成させたものである。
これ以外に、研究集会の報告集に箙多様体入門, クーロン枝入門[9,10]を執筆した。

1. A. Braverman, M. Finkelberg, and H. Nakajima, Instanton moduli spaces and $\mathscr W$-algebras, ArXiv e-prints (2014), http://arxiv.org/abs/1406.2381 arXiv:1406.2381 [math.QA].
2. A. Braverman, M. Finkelberg, and H. Nakajima, Towards a mathematical definition of Coulomb branches of $3$-dimensional $\mathcal N=4$ gauge theories, II, ArXiv e-prints (2016), http://arxiv.org/abs/1601.03586 arXiv:1601.03586 [math.RT].
3. A. Braverman, M. Finkelberg, and H. Nakajima, Coulomb branches of $3d$ $\mathcal N=4$ quiver gauge theories and slices in the affine Grassmannian (with appendices by Alexander Braverman, Michael Finkelberg, Joel Kamnitzer, Ryosuke Kodera, Hiraku Nakajima, Ben Webster, and Alex Weekes), ArXiv e-prints (2016), http://arxiv.org/abs/1604.03625 arXiv:1604.03625 [math.RT].
4. L. G\"ottsche, H. Nakajima, and K. Yoshioka, Instanton counting and Donaldson invariants, J. Differential Geom. 80 (2008), no.3, 343--390. MR2472477
5. \L. G\"ottsche, H. Nakajima, and K. Yoshioka, Donaldson = Seiberg-Witten from Mochizuki's formula and instanton counting, Publ. Res. Inst. Math. Sci. {47 (2011), no.1, 307--359. 2827729 (2012f:14085)
6. N. Guay, H. Nakajima, and C. Wendlandt, Coproduct for the Yangian of an affine Kac-Moody algebra, ArXiv e-prints (2017), http://arxiv.org/abs/1701.05288 arXiv:1701.05288 [math.QA].
7. R. Kodera and H. Nakajima, Quantized Coulomb branches of Jordan quiver gauge theories and cyclotomic rational Cherednik algebras, ArXiv e-prints (2016), http://arxiv.org/abs/1608.00875 arXiv:1608.00875 [math.RT].
8. P. B. Kronheimer and H. Nakajima, Yang-Mills instantons on ALE gravitational instantons}, Math. Ann. 288 (1990), no.2, 263--307. MR1075769 (92e:58038)
9. H. Nakajima, Introduction to quiver varieties -- for ring and representation theoriests, 第49回環論および表現論シンポジューム報告集 (2016), http://arxiv.org/abs/1611.10000 arXiv:1611.10000 [math.RT].
10. H. Nakajima, Introduction to a provisional mathematical definition of Coulomb branches of $3$-dimensional $\mathcal N=4$ gauge theories, 第61回代数学シンポジウム報告集 (2016), http://arxiv.org/abs/1612.09014 arXiv:1612.09014 [math.RT].
11. H. Nakajima, Instantons on ALE spaces, quiver varieties, and Kac-Moody algebras, Duke Math. J. 76 (1994), no.2, 365--416. MR1302318 (95i:53051)
12. H. Nakajima, Quiver varieties and Kac-Moody algebras, Duke Math. J. 91 (1998), no.3, 515--560. MR1604167 (99b:17033)
13. H. Nakajima, Towards a mathematical definition of Coulomb branches of $3$-dimensional $\mathcal N=4$ gauge theories, I, ArXiv e-prints (2015), http://arxiv.org/abs/1503.03676 arXiv:1503.03676 [math-ph].
14. H. Nakajima and Y. Takayama, Cherkis bow varieties and Coulomb branches of quiver gauge theories of affine type $A$, ArXiv e-prints (2016), http://arxiv.org/abs/1606.02002 arXiv:1606.02002 [math.RT].
15. H. Nakajima and K. Yoshioka, Lectures on instanton counting, Algebraic structures and moduli spaces, CRM Proc. Lecture Notes, vol.38, Amer. Math. Soc., Providence, RI, 2004, pp. 31--101. MR2095899 (2005m:14016)
16. H. Nakajima and K. Yoshioka, Instanton counting on blowup. I. 4-dimensional pure gauge theory, Invent. Math. 162 (2005), no.2, 313--355. MR2199008 (2007b:14027a)
17. H. Nakajima and K. Yoshioka, Instanton counting on blowup. II. $K$-theoretic partition function, Transform. Groups 10 (2005), no.3-4, 489--519. MR2183121 (2007b:14027b)