\documentclass{article}

\usepackage[latin2]{inputenc}
\usepackage[T1]{fontenc}
\usepackage[magyar]{babel}
% a következő három sor elé %-ot írva, majd az azt követő kettő elől
% letörölve, azonos eredményre jutunk!
\usepackage{amsopn}
\DeclareMathOperator{\tg}{tg}
\DeclareMathOperator*{\Trace}{Trace}
%\newcommand{\tg}{\mathop{\textrm{tg}}\nolimits}
%\newcommand{\Trace}{\mathop{\textrm{Trace}}\limits} % a \limits elhagyható

\begin{document}

\[
  \tg^2 x, \Trace_KF.
\]

\end{document}
