Use the Law of Total Expectation, followed by conditional expectation.
$\begin{align}
\mathsf E(\min(X,M))
& = \mathsf E(\min(X,M)\mid X\leq M)\,\mathsf P(X\leq M)+\mathsf E(\min(X,M)\mid X>M)\,\mathsf P(X> M)
\\[2ex]
& = \mathsf E(X\mid X\leq M)\,\mathsf P(X\leq M) +\mathsf E(M\mid X>M)\,\mathsf P(X>M)
\\[2ex]
& = \mathsf E(X\mid X\leq M)\,\mathsf P(X\leq M) +M\,\mathsf P(X>M)
\\[2ex]
& = \left(\sum_{x=0}^M \frac{x \,\mathsf P(X=x)}{\mathsf P(X\leq M)} \right)\mathsf P(X\leq M)+M\,\mathsf P(X>M)
\\[1ex]
& = \sum_{x=0}^M xp(1-p)^{x-1} + M\,(1-p)^M
\\[1ex]
& = \frac{1-(M p+1) (1-p)^M}{p}+\frac{Mp(1-p)^M}{p}
\\[1ex]
& = \frac{1-(1-p)^M}{p}
\\[2ex]
\mathsf E(\min(X,M)^2)
& = \sum_{x=0}^M x^2\, \mathsf P(X=x)+M^2\,\mathsf P(X > M)
\\[1ex] & \vdots
\\[3ex]
\mathsf {Var}(\min(X,M)) & =\mathsf E(\min(X,M)^2)-\mathsf E(\min(X,M))^2
\end{align}$
And similar for the exponential variable $Y$