Não é uma linguagem ruim em si, e definitivamente mais agradável do que os scripts Perl CGI que precederam-lo, é uma linguagem muito utilizada e uma necessidade absoluta, se você quiser entrar em programação web. Este e ASP.NET da Microsoft são, literalmente, as duas linguagens dinâmicas em torno da web no momento. Claro que há outros, mas estes dois é que mandam, mais open source (e um monte de código fechado) aplicações web usam este - mediawiki, Drupal e Joomla, para citar apenas os 3 primeiros que me veio à mente.
Também é muito fácil de pegar, mas não é tanto quanto de uma piada como VB tende a ser e não deixá-lo escorregar em bastante mau como muitos practices.That disse, ele ainda faz deixá-lo escorregar em lotes de más práticas e, enquanto você pode completamente feliz "domar" estes se você tenho sido programação em uma linguagem mais bonitos já não é, talvez, o passo mais sábio de se expor a eles desde o início.
Há também o ponto óbvio de que PHP é uma linguagem de script baseado na web e não uma linguagem de programação de propósito geral "tradicional" (o que, dependendo do que você quer fazer, poderia ser um pro ou um con.) Mais uma vez, porque é tão amplamente utilizado e muito fácil de pegar, você também terá um monte de tutoriais mal escritos e às vezes claramente erradas ao redor para ele - embora, pelo menos, o W3C fornecer algumas boas queridos, certificados que você pode ter certeza são precisas e confiáveis.
(2) Assim que você deve ir com ele como opção inicial da linguagem? A menos que você só quer fazer coisas baseado na web que eu ficaria longe, e mesmo assim eu teria cuidado. Não sou especialista PHP, mas eu posso fazer isso em pedaços e MySQL que eu preciso, e vindo de Java fundo não demorou me mais do que um par de semanas para escolher de forma abrangente os conceitos básicos up e ir andando com ele em um forma útil. É uma possibilidade, mas eu honestamente não recomendo começar com uma linguagem baseada na web, a menos que você só pretende fazer trabalho web based.
Migrando de uma linguagem "normal" a um baseado na web é bastante trivial, o contrário tende a ser um pouco mais difícil.