Geometria plana

Estou fazendo alguma coisa de errado, porque o pitágoras que tentei aplicar ali deu negativo. O que estou fazendo errado?